Análisis Multivariado

class: title-slide, middle, center
background-image: url(data:image/png;base64,#img/LOGOCCM-GRIS.png), url(img/P3.png)
background-position: 50% 10%, 75% 75%
background-size: 15%, cover

####Haydeé Peruyero 
#### 
]

.white[.left[.footnote[Based in Overleaf template CCM3[Overleaf template CCM3](https://www.overleaf.com/latex/templates/ccm-beamer-template-3/bfqcwdmwkxkx)]]]

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# <svg aria-hidden="true" role="img" viewBox="0 0 512 512" style="height:1em;width:1em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:#C99C00;overflow:visible;position:relative;"><path d="M200 376l-49.23-16.41c-7.289-2.434-7.289-12.75 0-15.18L200 328l16.41-49.23c2.434-7.289 12.75-7.289 15.18 0L248 328l49.23 16.41c7.289 2.434 7.289 12.75 0 15.18L248 376L240 416H448l-86.38-201.6C355.4 200 354.8 183.8 359.8 168.9L416 0L228.4 107.3C204.8 120.8 185.1 141.4 175 166.4L64 416h144L200 376zM231.2 172.4L256 160l12.42-24.84c1.477-2.949 5.68-2.949 7.156 0L288 160l24.84 12.42c2.949 1.477 2.949 5.68 0 7.156L288 192l-12.42 24.84c-1.477 2.949-5.68 2.949-7.156 0L256 192L231.2 179.6C228.2 178.1 228.2 173.9 231.2 172.4zM496 448h-480C7.164 448 0 455.2 0 464C0 490.5 21.49 512 48 512h416c26.51 0 48-21.49 48-48C512 455.2 504.8 448 496 448z"/></svg>
# .my-gold[¿Qué son los datos multivariados y el análisis multivariado?]

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# .my-gold[Datos multivariados]

Resulta cuando se alamacenan valores de varias variables aleatorias en varios sujetos u objetos.
  
  Lo que tenemos son observaciones multidimencionales.
  
  Este tipo de datos se colectan en una gran cantidad de disciplinas.
  
  Se pueden representar en un formato rectangular, donde `$n$` es el número de variables y `$m$` el número de unidades/sujetos/objetos.
  
|Unidad | Variable 1 | `$\cdots$` | Variable n |
|---|---|---|---|
|1| `$x_{11}$` | `$\cdots$` | `$x_{1n}$` |
| `$\vdots$` | `$\vdots$` | `$\vdots$` | `$\vdots$` |
|m | `$x_{m1}$` | `$\cdots$` | `$x_{mn}$`|

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# .my-gold[Análisis multivariado]

En algunos casos tiene sentido estudiar las variables por separado, pero no en general.
  
  Las variables pueden estar relacionadas en menor o mayor grado.
  
  Si cada variable se estudia por separado, podemos perder la estructura completa.
  
  El .my-red[análisis multivariado] es el análisis estadístico simultaneo de una colección de variables que mejora el análisis de cada variable al usar información sobre las relaciones entre las variables. 
  
  Existen métodos de análisis multivariado que son exploratorios y otros que se pueden usar para hacer inferencias.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

.pull-left[
### <svg aria-hidden="true" role="img" viewBox="0 0 384 512" style="height:1em;width:0.75em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M282.5 64H320C355.3 64 384 92.65 384 128V448C384 483.3 355.3 512 320 512H64C28.65 512 0 483.3 0 448V128C0 92.65 28.65 64 64 64H101.5C114.6 26.71 150.2 0 192 0C233.8 0 269.4 26.71 282.5 64zM192 128C209.7 128 224 113.7 224 96C224 78.33 209.7 64 192 64C174.3 64 160 78.33 160 96C160 113.7 174.3 128 192 128zM105.4 230.5C100.9 243 107.5 256.7 119.1 261.2C132.5 265.6 146.2 259.1 150.6 246.6L151.1 245.3C152.2 242.1 155.2 240 158.6 240H216.9C225.2 240 232 246.8 232 255.1C232 260.6 229.1 265.6 224.4 268.3L180.1 293.7C172.6 298 168 305.9 168 314.5V328C168 341.3 178.7 352 192 352C205.1 352 215.8 341.5 215.1 328.4L248.3 309.9C267.9 298.7 280 277.8 280 255.1C280 220.3 251.7 192 216.9 192H158.6C134.9 192 113.8 206.9 105.8 229.3L105.4 230.5zM192 384C174.3 384 160 398.3 160 416C160 433.7 174.3 448 192 448C209.7 448 224 433.7 224 416C224 398.3 209.7 384 192 384z"/></svg> ¿Qué tipo de variables existen?

.can-edit.key-likes[ 
- 
- 
- 
-

]
]

### <svg aria-hidden="true" role="img" viewBox="0 0 384 512" style="height:1em;width:0.75em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M282.5 64H320C355.3 64 384 92.65 384 128V448C384 483.3 355.3 512 320 512H64C28.65 512 0 483.3 0 448V128C0 92.65 28.65 64 64 64H101.5C114.6 26.71 150.2 0 192 0C233.8 0 269.4 26.71 282.5 64zM192 128C209.7 128 224 113.7 224 96C224 78.33 209.7 64 192 64C174.3 64 160 78.33 160 96C160 113.7 174.3 128 192 128zM105.4 230.5C100.9 243 107.5 256.7 119.1 261.2C132.5 265.6 146.2 259.1 150.6 246.6L151.1 245.3C152.2 242.1 155.2 240 158.6 240H216.9C225.2 240 232 246.8 232 255.1C232 260.6 229.1 265.6 224.4 268.3L180.1 293.7C172.6 298 168 305.9 168 314.5V328C168 341.3 178.7 352 192 352C205.1 352 215.8 341.5 215.1 328.4L248.3 309.9C267.9 298.7 280 277.8 280 255.1C280 220.3 251.7 192 216.9 192H158.6C134.9 192 113.8 206.9 105.8 229.3L105.4 230.5zM192 384C174.3 384 160 398.3 160 416C160 433.7 174.3 448 192 448C209.7 448 224 433.7 224 416C224 398.3 209.7 384 192 384z"/></svg> Ejemplos:

.can-edit.key-likes[ 
- 
- 
- 
-

]
]
---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Tipos de preguntas en análisis multivariado.

Supongan que tienen un conjunto de datos con medidas de busto, cintura y cadera de una muestra de hombres y mujeres.

¿ Es posible resumir el tamaño y forma del cuerpo en algún número al combinar de alguna forma esta información?
  
  ¿ Existen subtipos de cuerpos con formas similares o muy diferentes?
  
--

En el primer caso, este tipo de análisis se puede realizar con .my-red[componentes principales], en el segundo con .my-red[clusters].

.my-red[**NOTA:**] Dependiendo del tipo de análisis, la cantidad de individuos de los cuales se toma información es importante.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# <svg aria-hidden="true" role="img" viewBox="0 0 512 512" style="height:1em;width:1em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M448 32C483.3 32 512 60.65 512 96V416C512 451.3 483.3 480 448 480H64C28.65 480 0 451.3 0 416V96C0 60.65 28.65 32 64 32H448zM224 256V160H64V256H224zM64 320V416H224V320H64zM288 416H448V320H288V416zM448 256V160H288V256H448z"/></svg> Covarianzas

La .my-red[covarianza] entre dos variables aleatorias es una medida de su dependencia lineal.

Si un conjunto de datos multivariados tiene `$n$` variables observadas, entonces existen `$n$` varianzas y `$n(n-1)/2$` covarianzas. Generalmente estas cantidades se colocan en una matriz simétrica `$\Sigma$` de tamaño `$n\times n$`:

`$$\left( \begin{matrix}
\sigma_1^2 & \sigma_{12} & \cdots & \sigma_{1n} \\
\sigma_{21} & \sigma_2^2 & \cdots & \sigma_{2n} \\
\vdots & \vdots & \ddots & \vdots \\
\sigma_{n1} & \sigma_{n2} & \cdots & \sigma_{n}^2 
\end{matrix} \right)$$`

Donde `$\sigma_{ij}=\sigma_{ji}$`. Esta matriz se conoce como la matriz de .my-red[varianzas y covarianzas]. Para un conjunto de observaciones, la matriz `$\Sigma$` se estima como:

`$$S = \frac{1}{n-1} \sum_{i=1}^{n} (x_{i} - \bar{x}) (x_{i}-\bar{x}) ^{T}.$$`
---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# <svg aria-hidden="true" role="img" viewBox="0 0 384 512" style="height:1em;width:0.75em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M336 0h-288C22.38 0 0 22.38 0 48v416C0 489.6 22.38 512 48 512h288c25.62 0 48-22.38 48-48v-416C384 22.38 361.6 0 336 0zM64 208C64 199.2 71.2 192 80 192h32C120.8 192 128 199.2 128 208v32C128 248.8 120.8 256 112 256h-32C71.2 256 64 248.8 64 240V208zM64 304C64 295.2 71.2 288 80 288h32C120.8 288 128 295.2 128 304v32C128 344.8 120.8 352 112 352h-32C71.2 352 64 344.8 64 336V304zM224 432c0 8.801-7.199 16-16 16h-128C71.2 448 64 440.8 64 432v-32C64 391.2 71.2 384 80 384h128c8.801 0 16 7.199 16 16V432zM224 336c0 8.801-7.199 16-16 16h-32C167.2 352 160 344.8 160 336v-32C160 295.2 167.2 288 176 288h32C216.8 288 224 295.2 224 304V336zM224 240C224 248.8 216.8 256 208 256h-32C167.2 256 160 248.8 160 240v-32C160 199.2 167.2 192 176 192h32C216.8 192 224 199.2 224 208V240zM320 432c0 8.801-7.199 16-16 16h-32c-8.799 0-16-7.199-16-16v-32c0-8.801 7.201-16 16-16h32c8.801 0 16 7.199 16 16V432zM320 336c0 8.801-7.199 16-16 16h-32c-8.799 0-16-7.199-16-16v-32C256 295.2 263.2 288 272 288h32C312.8 288 320 295.2 320 304V336zM320 240C320 248.8 312.8 256 304 256h-32C263.2 256 256 248.8 256 240v-32C256 199.2 263.2 192 272 192h32C312.8 192 320 199.2 320 208V240zM320 144C320 152.8 312.8 160 304 160h-224C71.2 160 64 152.8 64 144v-64C64 71.2 71.2 64 80 64h224C312.8 64 320 71.2 320 80V144z"/></svg> Correlaciones

La covarianza es difícil de interpretar en ocasiones debido a que las variables pueden tener escalas muy diferentes de medición. Por esta razón suele .my-red[estandarizarse] dividiendo por el producto de las desviaciones estándar de las dos variables, el resultado de esto se le llama el coeficiente de correlación:

`$$\rho_{ij}=\frac{\sigma_{ij}}{\sigma_i \sigma_j}$$`
donde `$\sigma_i=\sqrt{\sigma_i^2}$`.

La correlación es independiente de las escalas de medición y estos coeficientes están entre `$-1$` y `$1$` y nos dan una medida de la relación lineal entre las variables `$X_i$` y `$X_j$`.

Si tenemos `$n$` variables, entonces podemos acomodar estos coeficientes en una matriz de tamaño `$n\times n$` donde los elementos en la diagonal son `$1$`. La matriz se puede escribir en términos de la matriz de covarianzas:

`$$R=D^{-1/2}SD^{1/2}$$`
donde `$D^{-1/2}=diag(1/\sigma_1,\dots, 1/\sigma_n)$`.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# <svg aria-hidden="true" role="img" viewBox="0 0 512 512" style="height:1em;width:1em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M177.9 494.1C159.2 512.8 128.8 512.8 110.1 494.1L17.94 401.9C-.8054 383.2-.8054 352.8 17.94 334.1L68.69 283.3L116.7 331.3C122.9 337.6 133.1 337.6 139.3 331.3C145.6 325.1 145.6 314.9 139.3 308.7L91.31 260.7L132.7 219.3L180.7 267.3C186.9 273.6 197.1 273.6 203.3 267.3C209.6 261.1 209.6 250.9 203.3 244.7L155.3 196.7L196.7 155.3L244.7 203.3C250.9 209.6 261.1 209.6 267.3 203.3C273.6 197.1 273.6 186.9 267.3 180.7L219.3 132.7L260.7 91.31L308.7 139.3C314.9 145.6 325.1 145.6 331.3 139.3C337.6 133.1 337.6 122.9 331.3 116.7L283.3 68.69L334.1 17.94C352.8-.8055 383.2-.8055 401.9 17.94L494.1 110.1C512.8 128.8 512.8 159.2 494.1 177.9L177.9 494.1z"/></svg> Distancias

El concepto de distancia entre datos multivariados es de interés e importante. Dados dos unidades `$i$` y `$j$`, ¿qué nos sirve como medida de distancia? La más común es la Euclideana pero existen muchas más.

Una **similitud** es una medida entre dos objetos de que tanto se parecen. Por lo cual entre más parecidos sean los dos objetos su medida de similitud será más grande.

Una **disimilitud** entre dos objetos es una medida del grado en el cual dos objetos son diferentes. Una disimilitud debe ser baja si se consideran pares de objetos que son similares.

Toda distancia (o métrica) es una disimilitud, pero no toda disimilitud es una distancia.

Cuando los datos se encuentran en escalas muy diferentes, tiene sentido calcular la distancia después de haber estandarizado los datos.

En R, existe la función `dis()` para calcular la distancia entre dos objetos.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# Plots de matrices de correlación o distancias

En R existen varios paquetes que nos permiten realizar los plots de estas matrices.

```r
library(ggcorrplot)
library(corrplot)
```

```r
cor.mat_all <- cor(data.matrix(iris[,-5]), use="complete.obs")

corplot_all <- corrplot(cor.mat_all, method="shade", tl.col = "black", tl.srt = 45, 
                        number.cex = 0.4, addCoef.col = "black",order = "AOE",type = "upper",addshade = "all", diag = F)
```

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

![](data:image/png;base64,#mult_ana_files/figure-html/unnamed-chunk-3-1.png)
---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# <svg aria-hidden="true" role="img" viewBox="0 0 512 512" style="height:1em;width:1em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M32 32C49.67 32 64 46.33 64 64V400C64 408.8 71.16 416 80 416H480C497.7 416 512 430.3 512 448C512 465.7 497.7 480 480 480H80C35.82 480 0 444.2 0 400V64C0 46.33 14.33 32 32 32zM128 128C128 110.3 142.3 96 160 96H352C369.7 96 384 110.3 384 128C384 145.7 369.7 160 352 160H160C142.3 160 128 145.7 128 128zM288 192C305.7 192 320 206.3 320 224C320 241.7 305.7 256 288 256H160C142.3 256 128 241.7 128 224C128 206.3 142.3 192 160 192H288zM416 288C433.7 288 448 302.3 448 320C448 337.7 433.7 352 416 352H160C142.3 352 128 337.7 128 320C128 302.3 142.3 288 160 288H416z"/></svg> Plots univariados

¿Qué tipos de plots podrías usar para hacer un análisis univariado?

.can-edit.key-likes[

]

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Plots multivariados

Los plots multivariados tratan de involucrar más de dos variables, hay de varios tipos por ejemplo de símbolos y .my-red[glyph] en los cuales los valores de los datos controlan el parámetro de los símbolos.

Para el caso de querer representar 3 variables podemos usar el plot de burbujas donde el radio del cículo lo determinaba la tercera variable.

Una forma son las matrices de scatterplots que vimos con el comando `pairs` donde tenemos todas las posibles combinaciones de dos a dos variables. Existen modificaciones a este que incluyen las regresiones u otros llamados .my-red[bagplot] (este lo pueden usar en R con el comando `bagplot.pairs(data, gap=, col.baghull= "color")` ).

Otros más son:

- Caritas de Chernoff
  - Curvas de Andrew
  - Estrellas
  - Paralelas
  - 3D
  
---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# Caritas de Chernoff

Publicadas por Herman Chernoff en 1973 en el artículo *The use of Faces to Represent Points in k-dimensional Space Graphically* del Journal of the American Statistical Association.

Estas se basan en el hecho que nuestro ojo puede reconocer los .my-blue[rostros humanos] muy facilmente. Reconocemos a nuestra gente entre miles de caras.
.panelset[
.panel[.panel-name[Código y caritas]
.pull-left[

```r
install.packages("aplpack")
library(aplpack)
data(iris)
```

```r
faces(iris[c(1,51,101),1:4],
      nrow.plot = 1, 
      ncol.plot = 3, 
      main = "La primer flor de cada especie", print.info = TRUE)
```

]

![](data:image/png;base64,#mult_ana_files/figure-html/unnamed-chunk-7-1.png)

```
# effect of variables:
#  modified item       Var           
#  "height of face   " "Sepal.Length"
#  "width of face    " "Sepal.Width" 
#  "structure of face" "Petal.Length"
#  "height of mouth  " "Petal.Width" 
#  "width of mouth   " "Sepal.Length"
#  "smiling          " "Sepal.Width" 
#  "height of eyes   " "Petal.Length"
#  "width of eyes    " "Petal.Width" 
#  "height of hair   " "Sepal.Length"
#  "width of hair   "  "Sepal.Width" 
#  "style of hair   "  "Petal.Length"
#  "height of nose  "  "Petal.Width" 
#  "width of nose   "  "Sepal.Length"
#  "width of ear    "  "Sepal.Width" 
#  "height of ear   "  "Petal.Length"
```

Para los elementos de color de las caras, los colores son encontrados al promediar los conjuntos de variables:  (7,8)-eyes:iris, (1,2,3)-lips, (14,15)-ears, (12,13)-nose, (9,10,11)-hair, (1,2)-face (From `?faces`).
]
]

![](data:image/png;base64,#mult_ana_files/figure-html/unnamed-chunk-8-1.png)

]

]

]
]

---

.my-gold[<svg aria-hidden="true" role="img" viewBox="0 0 640 512" style="height:3em;width:3.75em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M414.8 40.79L286.8 488.8C281.9 505.8 264.2 515.6 247.2 510.8C230.2 505.9 220.4 488.2 225.2 471.2L353.2 23.21C358.1 6.216 375.8-3.624 392.8 1.232C409.8 6.087 419.6 23.8 414.8 40.79H414.8zM518.6 121.4L630.6 233.4C643.1 245.9 643.1 266.1 630.6 278.6L518.6 390.6C506.1 403.1 485.9 403.1 473.4 390.6C460.9 378.1 460.9 357.9 473.4 345.4L562.7 256L473.4 166.6C460.9 154.1 460.9 133.9 473.4 121.4C485.9 108.9 506.1 108.9 518.6 121.4V121.4zM166.6 166.6L77.25 256L166.6 345.4C179.1 357.9 179.1 378.1 166.6 390.6C154.1 403.1 133.9 403.1 121.4 390.6L9.372 278.6C-3.124 266.1-3.124 245.9 9.372 233.4L121.4 121.4C133.9 108.9 154.1 108.9 166.6 121.4C179.1 133.9 179.1 154.1 166.6 166.6V166.6z"/></svg>]
# .my-gold[Práctica:] 
### .my-gold[Carga la base de datos y explora las caritas de Chernoff]

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Curvas de Andrews

Se basa en el trabajo de Andrews de 1972 *Plots of High Dimensional Data*, Biometrics, vol. 28, no. 1, pp. 125-136.

Si `$x_i=(x_{i1}, x_{i,2}, \dots, x_{ip})$` es la observación `$i$` ésima, entonces se transforma en una curva de la forma:

Si `$p$` es par:

`$$f_i(t)= \frac{x_{i1}}{\sqrt{2}} + x_{i2}\sin(t)+x_{i3}\cos(t)+x_{i4}\sin(2t)+x_{i5}\cos(2t)+\cdots+x_{ip}\sin(\frac{p}{2}t)$$`

y si `$p$` es impar en:

`$$f_i(t)= \frac{x_{i1}}{\sqrt{2}} + x_{i2}\sin(t)+x_{i3}\cos(t)+\cdots+x_{ip}\cos(\frac{p-1}{2}t)$$`

y los valores de `$t\in(0,2\pi)$`.

---
#### Ejemplo en Geogebra de Curvas de Andrews de Juan Pablo Hermosillo B.

---

background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

La distancia entre dos curvas es el área entre ellas y será igual a la distancia entre las observaciones. Permite detectas grupos. Si las observaciones son lejanas entonces las funciones también. Si se usan en diferente orden las variables, entonces se producen curvas diferentes.

En R, el paquete para graficar estas curvas es `andrews` y tiene integradas 5 funciones más para estás curvas. Explora la ayuda del paquete para ver estas curvas.

Dependiendo del orden de las variables se pueden ver mejor las separaciones de los grupos.

Se pueden meter muchos más individuos a diferencia del de caritas de Chernoff.

Este tipo de graficos y el de caritas de Chernoff nos ayuda a representar muchas dimensiones en `$\mathbb{R}^2$`.

---
class: middle

```r
library(andrews)
par(mfrow=c(2,2))
andrews(iris, type = 1, clr = 5, ymax = 3, main = "Curva tipo 1")
andrews(iris, type = 2, clr = 5, ymax = 3, main = "Curva tipo 2")
andrews(iris, type = 3, clr = 5, ymax = 3, main = "Curva tipo 3")
andrews(iris, type = 4, clr = 5, ymax = 3, main = "Curva tipo 4")

```
]

---

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover

# Gráficos de Paralelas

Usualmente graficamos ejes perpendiculares, este no es el caso de los plots de paralelas, en este caso se consideran ejes paralelos para cada variable. Usualmente los datos se reescalan de tal forma que todos tengan la misma escala. Los valores multidimensionales para cada observación se conectan con lineas que podemos seguir a lo largo de todas las dimensiones.

```r
library(lattice)
data(mtcars)
parallel(~mtcars|mtcars$cyl, main="Plot de paralelas por Cilindros")
```

---

![](data:image/png;base64,#mult_ana_files/figure-html/unnamed-chunk-14-1.png)

---

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover

# Estrellas

La función `stars` del paquete de `graphics` nos permite realizar plots de estreyas o radares para representar datos multivariados, las variables se mandan a las longitudes de los rayos y cantidad de estos.

```r
palette(rainbow(12, s = 0.6, v = 0.75))
stars(mtcars[, 1:7], len = 0.8, key.loc = c(12, 1.5),
      main = "Motor Trend Cars", draw.segments = TRUE)
```

---
![](data:image/png;base64,#mult_ana_files/figure-html/unnamed-chunk-16-1.png)

---

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Plots 3D

![](data:image/png;base64,#mult_ana_files/figure-html/unnamed-chunk-17-1.png)

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# <svg aria-hidden="true" role="img" viewBox="0 0 512 512" style="height:1em;width:1em;vertical-align:-0.125em;margin-left:auto;margin-right:auto;font-size:inherit;fill:currentColor;overflow:visible;position:relative;"><path d="M380.6 365.6C401.1 379.9 416 404.3 416 432C416 476.2 380.2 512 336 512C291.8 512 256 476.2 256 432C256 423.6 257.3 415.4 259.7 407.8L114.1 280.4C103.8 285.3 92.21 288 80 288C35.82 288 0 252.2 0 208C0 163.8 35.82 128 80 128C101.9 128 121.7 136.8 136.2 151.1L320 77.52C321.3 34.48 356.6 0 400 0C444.2 0 480 35.82 480 80C480 117.9 453.7 149.6 418.4 157.9L380.6 365.6zM156.3 232.2L301.9 359.6C306.9 357.3 312.1 355.4 317.6 354.1L355.4 146.4C351.2 143.6 347.4 140.4 343.8 136.9L159.1 210.5C159.7 218 158.5 225.3 156.3 232.2V232.2z"/></svg> Clusters

El objetivo del análisis por conglomerados es formar grupos de ordenaciones, de manera que todas las unidades de un grupo sean parecidas entre ellas pero diferentes a las de los otros grupos.

Generalmente no se sabe el número de grupos a formar ni sus tamaños.

Lo importante es definir a que nos referimos con **similares**. Para esto hacemos uso de distancias, similitudes y disimilitudes.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Tipos de Clusters

Los métodos de conglomerados pueden ser jerárquicos y no jerárquicos. Los métodos **jerárquicos aglomerativos** dan origen a un gráfico llamado *dendrogramas*. Estos métodos son iterativos y en cada paso debe recalcularse la matriz de distancias.

Algunos de los métodos de conglomerados son:

- *Single linkage agglomerative clustering* o método de la liga sencilla o del vecino más cercano.
  - *Complete linkage agglomerative clustering* o método de la liga completa o del vecino más lejano.
  - *Average linkage agglomerative clustering* o métdod de la liga promedio.
  - *Ward’s minimum variance clustering* o método Ward.

---

background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Método del vecino más cercano

En el método de vecinos más cercanos, en cada paso la agrupación combina dos muestras que contienen las distancias más cortas entre pares (o la mayor similitud), es decir, se toma la mínima de todas las posibles distancias entre los objetos que pertenecen a distintos conglomerados:

`$$d_{AB}=\min_{i\in A, j\in B} (d_{ij}).$$`

.center[
<img src="data:image/png;base64,#img/single_linkage.png" width="25%" />
]
---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Ejemplo

```r
A <- c(0,4,15,6,2,9)
B <- c(4,0,5,7,6,10)
C <- c(15,5,0,9,3,15)
D <- c(6,7,9,0,10,3)
E <- c(2,6,3,10,0,2)
F <- c(9,10,15,3,2,0)

df <- data.frame(A,B,C,D,E,F, row.names = c("A","B","C","D","E","F"))
df %>% knitr::kable(format = "html")
dist <- as.dist(df, diag= TRUE)
```
]

<table>
 <thead>
  <tr>
   <th style="text-align:left;">   </th>
   <th style="text-align:right;"> A </th>
   <th style="text-align:right;"> B </th>
   <th style="text-align:right;"> C </th>
   <th style="text-align:right;"> D </th>
   <th style="text-align:right;"> E </th>
   <th style="text-align:right;"> F </th>
  </tr>
 </thead>
<tbody>
  <tr>
   <td style="text-align:left;"> A </td>
   <td style="text-align:right;"> 0 </td>
   <td style="text-align:right;"> 4 </td>
   <td style="text-align:right;"> 15 </td>
   <td style="text-align:right;"> 6 </td>
   <td style="text-align:right;"> 2 </td>
   <td style="text-align:right;"> 9 </td>
  </tr>
  <tr>
   <td style="text-align:left;"> B </td>
   <td style="text-align:right;"> 4 </td>
   <td style="text-align:right;"> 0 </td>
   <td style="text-align:right;"> 5 </td>
   <td style="text-align:right;"> 7 </td>
   <td style="text-align:right;"> 6 </td>
   <td style="text-align:right;"> 10 </td>
  </tr>
  <tr>
   <td style="text-align:left;"> C </td>
   <td style="text-align:right;"> 15 </td>
   <td style="text-align:right;"> 5 </td>
   <td style="text-align:right;"> 0 </td>
   <td style="text-align:right;"> 9 </td>
   <td style="text-align:right;"> 3 </td>
   <td style="text-align:right;"> 15 </td>
  </tr>
  <tr>
   <td style="text-align:left;"> D </td>
   <td style="text-align:right;"> 6 </td>
   <td style="text-align:right;"> 7 </td>
   <td style="text-align:right;"> 9 </td>
   <td style="text-align:right;"> 0 </td>
   <td style="text-align:right;"> 10 </td>
   <td style="text-align:right;"> 3 </td>
  </tr>
  <tr>
   <td style="text-align:left;"> E </td>
   <td style="text-align:right;"> 2 </td>
   <td style="text-align:right;"> 6 </td>
   <td style="text-align:right;"> 3 </td>
   <td style="text-align:right;"> 10 </td>
   <td style="text-align:right;"> 0 </td>
   <td style="text-align:right;"> 2 </td>
  </tr>
  <tr>
   <td style="text-align:left;"> F </td>
   <td style="text-align:right;"> 9 </td>
   <td style="text-align:right;"> 10 </td>
   <td style="text-align:right;"> 15 </td>
   <td style="text-align:right;"> 3 </td>
   <td style="text-align:right;"> 2 </td>
   <td style="text-align:right;"> 0 </td>
  </tr>
</tbody>
</table>
]
]

.my-blue[[Ejemplo](https://docs.google.com/spreadsheets/d/1gKUcDjZaIzY5pGH1f9uwozl6s0F_l-dV/edit?usp=sharing&ouid=104705813957870442432&rtpof=true&sd=true)
]
---

```r
hc_clust <- hclust (d = dist, method = 'single')
plot(hc_clust)
```

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Método de la liga completa

El clustering de la liga completa también se conoce como *clustering del vecino más lejano*. Permite que que una muestra (o un grupo) se aglomere con otra muestra (o grupo) *sólo a la distancia más lejana entre sí*. Así, todos los miembros de ambos grupos están vinculados.

`$$d_{AB}=\max_{i\in A, j\in B} (d_{ij}).$$`

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

```r
hc_clust <- hclust (d = dist, method = 'complete')
plot(hc_clust)
```

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Método de la liga promedio

La agrupación de liga promedio permite agrupar una muestra en un clúster en la media de las distancias entre esta muestra y todos los miembros del clúster. Los dos clusters se unen a la *media de las distancias entre todos los miembros de un clúster y todos los miembros del otro*.

`$$d_{AB}=\frac{1}{n_An_B} \sum_{i\in A} \sum_{j\in B} (\ d_{ij}\ ).$$`

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

```r
hc_clust <- hclust (d = dist, method = 'average')
plot(hc_clust)
```

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Método de agrupación de varianza mínima de Ward

La agrupación de varianza mínima de Ward (también conocida como agrupación de Ward) presentada originalmente por Ward (1963) se basa en el criterio del *modelo lineal de mínimos cuadrados*.

Este método método minimiza las sumas de las distancias al cuadrado (es decir, el error al cuadrado de ANOVA) entre las muestras.

Considera el análisis de conglomerados como un análisis de la varianza, en lugar de utilizar métricas de distancia o medidas de asociación.

Este método es más apropiado para las variables cuantitativas, y no variables binarias.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Método de agrupación de varianza mínima de Ward

El clustering de Ward se implementa mediante la búsqueda del par de clusters en cada paso que conduce al mínimo incremento de la varianza total dentro del cluster después de la fusión. Este incremento es una distancia cuadrada ponderada entre los centros de los clusters. Aunque las distancias iniciales de los clusters se definen como la distancia euclidiana al cuadrado entre puntos en el clustering de Ward, otros métodos de distancia pueden producir resultados significativos.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

```r
hc_clust <- hclust (d = dist, method = 'ward.D2')
plot(hc_clust)
```

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

# Método del centroide

Al redefinir la distancia entre dos conglomerados se toma la diferencia entre las medias (centroide)
de cada conglomerado. Se unen los dos conglomerados más cercanos.

# Método de la mediana

Al redefinir la distancia entre dos conglomerados se toma la diferencia ponderada entre las medias
(centroide) de cada conglomerado, la ponderación está dada por el tamaño (número de unidades del conglomerado) de los conglomerados. Se unen los dos conglomerados más cercanos. Se espera un mejor rendimiento que el del centroide cuando los grupos varían mucho en tamaño.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# Análisis de Componentes Principales

El análisis de componentes principales tiene como objetivo reducir la dimensión y conservar en lo posible la estructura de estos, la cual no depende de los ejes utilizados para las coordenadas. Dadas `$n$` observaciones de `$p$` variables, se analiza si es posible representar adecuadamente la información con un número menor de variables construidas como combinaciones lineales de las originales. El *primer componente principal* es la combinación lineal de las variables originales que tienen varianza máxima.

Por ejemplo, supongamos que tenemos las mediciones de dos variables: altura `$X_1$` y peso `$X_2$` de un grupo de personas.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

Lo que se busca es proyectar los datos sobre un eje que reproduzca de la mejor manera la .my-red[forma] de los datos.

Lo primero que se hace es centrar los datos en el centroide `$(\bar{X_1}, \bar{X_2})$`. Después se realiza una rotación de manera que las .my-red[proyecciones] sean lo más parecidas posibles a los vectores originales.

- Los individuos que quedan a la izquierda en el eje `$OY1$` son los más pequeños en .my-red[talla] y a la derecha son los más grandes.
 
 - En el eje `$OY2$` los sujetos que quedan por encima son los que tienen un mayor .my-red[peso] dada la estatura y por debajo los que tienen poco peso dad su estatura, es decir .my-gold[este eje habla de la **forma** de los sujetos].
 
 - Para estos sujetos ocurre que varían mucho en talla y hay poca variación en la forma.

]

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

Rotar los ejes un ángulo `$\alpha$` corresponde a aplicar una transformación lineal de los datos:

`$$\left[ \begin{matrix}
Y1 \\
Y2 
\end{matrix} \right] = \left[ \begin{matrix} 
\cos \alpha & \sin \alpha \\
-\sin \alpha & \cos \alpha 
\end{matrix}\right] \left[ \begin{matrix}
X1 \\
X2 
\end{matrix} \right] = \left[ \begin{matrix} 
X1\cos \alpha + X2\sin \alpha \\
-X1 \sin \alpha + X2 \cos \alpha 
\end{matrix}\right]$$`

Las proyecciones de los puntos sobre el eje `$OY1$` son una buena aproximación de los datos ya que en la otra dirección hay poca variación. Entonces se puede usar únicamente
`$$Y1=X1\cos \alpha + X2\sin \alpha$$`
y así la nueva variable `$Y1$` resume a las otras dos.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

Supongamos que tenemos el punto `$P_i$`, entonces se cumple

`$$(OP_i)^2 = (OP_i^{'})^2 + (P_i P_i^{'})^2.$$`

La cantidad `$(P_i P_i^{'})^2$` se puede ver como un error que se desea minimizar.

Si sumamos sobre todos los sujetos y se divide entre `$n-1$`

`$$C = \frac{\sum_{i=1}^{n}(OP_i)^2}{n-1} = \frac{\sum_{i=1}^{n}(OP_i^{'})^2}{n-1} + \frac{\sum_{i=1}^{n}(P_i P_i^{'})^2}{n-1}.$$`
El objetivo es minimizar `$\frac{\sum_{i=1}^{n}(OP_i)^2}{n-1}$`.
]

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

La cantidad

`$$\frac{\sum_{i=1}^{n}(OP_i)^2}{n-1}$$`

es fija, es decir no depende de las coordenadas.

Entonces minimizar

`$$\frac{\sum_{i=1}^{n}(P_i P_i^{'})^2}{n-1}$$`

es equivalente a maximizar

`$$\frac{\sum_{i=1}^{n}(OP_i^{'})^2}{n-1}$$`

que coincide con .my-red[la varianza de las proyecciones] sobre el eje `$OY1$` (ya que los datos están centrados).

Entonces el ángulo de rotación que se busca es aquel que .my-red[maximice la varianza de las proyecciones].

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

En general, supongamos que tenemos datos en un espacio de `$p$` variables en `$n$` elementos de una población y vamos a suponer que hemos restado a cada variable su media, de tal forma que las variables tienen media cero.

Lo que se busca es una transformación lineal

`$$a_1^{'}X=(a_{11},a_{12},\dots,a_{1p})(X_1,X2,\dots,X_p)= Y_1$$`
Se debe elegir `$a_1=(a_{11},a_{12},\dots,a_{1p})$` de tal forma que la `$var(Y_1)$` sea máxima.

Si el vector aleatorio `$X=(X_1,X2,\dots,X_p)^{'}$` tiene matriz de varianzas y covarianzas `$\Sigma$` entonces `$var(Y_1) = var(a_1^{'}X) = a_1^{'}\Sigma a_1$`.

Si se elige un `$a_1$` que tenga una norma muy grande, entonces la varianza de `$Y_1$` podría resultar muy grande también. Entonces es necesario imponer condiciones sobre `$a_1$` para acotar el tamaño de la varianza de `$Y_1$` y no hacerla muy grande de manera arbitraria.

La condición que se impone es:

`$$||a_1||=a_1'\cdot a_1=1.$$`
Importando únicamente la dirección del vector `$a_1$`.

---

background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

Para maximar imponiendo esta condición se utilizan los multiplicadores de Lagrange: maximizar `$f(x_1,...,x_p)$` sujeto a `$g(x_1,...,x_p)=c$`, donde `$f$` es una función diferenciable y sabemos que existe una `$\lambda$` tal que `$\frac{\partial f}{\partial x_i}-\lambda\frac{\partial g}{\partial x_i}=0$`.

En el caso de componentes principales se tiene que:

`$$L(a_i) = a_1' \Sigma a_1 - \lambda(a_1'a_1 -1).$$`

Después, se maximizará esta expresión derivando con respecto a los componentes de `$a_1$` e igualando a `$0$`:

$$ \frac{\partial L}{\partial a_1} =\ 2\Sigma a_1 -2\lambda a_1 =0 $$

cuya solución es:

$$ \Sigma a_1=\lambda I a_1 $$

entonces `$a_1$` es un vector propio de la matriz `$\Sigma$` y `$\lambda$` será su correspondiente valor propio.

Como `$\Sigma$` es simétrica y semi positiva definida todas las `$\lambda_i\geq 0$`.

---

background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

### ¿Qué valor propio determina a la primera componente?

Para determinar que valor propio de `$\Sigma$` es la solución de la ecuación anterior, multiplicamos por `$a_1$` a la izquierda:

$$a_1'\Sigma a_1=\lambda a_1'a_1 =\lambda $$

entonces, `$\lambda$` es la varianza de `$Y_1$`. Como esta es la cantidad que queríamos maximizar, entonces `$\lambda$` será el valor propio mayor de la matriz `$\Sigma$` y su vector asociado `$a_1$` serán los coeficientes de cada variable de la primera componente.

#### ¿Segunda componente?

La segunda componente tendrá la dirección donde las proyecciones tengan la segunda mayor varianza.

Para encontrar la segunda componente `$Y_2=a_{2}^{'}X$` se impone la condición `$a_2^{'}a_2=1$` y además que `$Y_2$` .my-red[debe ser no correlacionada con] `$Y_1$`, es decir

`$$cov(Y_2,Y_1)=a_{2}^{'}\Sigma a_{1}=0$$`
Se vuelven a usar los multiplicadores de Lagrange pero con estás dos condiciones.

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle

La matriz `$\Sigma$` la podemos escribir como

`$$\Sigma = A \Lambda A^{'}$$`

donde la matriz `$\Lambda$` sera la matriz diagonal con elementos los valores propios `$\lambda_1,...,\lambda_p$` y `$A=[\bar{a_1} | \bar{a_{2}} | \dots | \bar{a_p}]$`.

Como generalmente `$\Sigma$` es desconocida, entonces se suele trabajar con la matriz `$S$`.

Cuando se trabaja con distintas unidades de medición, conviene hacer el análisis de componentes principales haciendo los calculos con la matriz de correlaciones, es decir además de centrar los datos los estandarizamos.

Los valores propios de la matriz de correlaciones y la de varianzas y covarianzas no coinciden y no hay forma de obtener unos a partir de otros.

---

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# Análisis de discriminante

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# Análisis de Factores

---
background-image: url(data:image/png;base64,#img/FONDO.png)
background-size: cover
class: middle, center

# Escalamiento multidimensional