Temas del atlas · Atlas OMSCS en IA

Matemáticas para IA

Reúne el álgebra lineal, el cálculo en varias variables y la probabilidad que sostienen cualquier modelo de aprendizaje, desde el producto punto hasta la divergencia de Kullback y Leibler. Prepara el terreno de CS 7641, CS 7643, ISYE 6420 y CS 6601, cursos que dan por sabidas esas herramientas desde la primera semana.

Vectores y producto puntoEl producto punto de dos vectores suma los productos de sus componentes y mide cuánto apunta uno en la dirección del otro.
Normas y distanciasUna norma asigna un tamaño no negativo a un vector, y la distancia entre dos puntos es la norma de su diferencia.
Matrices y transformaciones linealesUna matriz representa una transformación lineal que estira, rota, refleja o proyecta el espacio, y multiplicar matrices equivale a encadenar dos de esas…
Rango e independencia linealEl rango de una matriz es el número de columnas linealmente independientes, es decir, la dimensión del espacio que esas columnas alcanzan a cubrir.
Autovalores y autovectoresUn autovector de una matriz es un vector al que la transformación no gira, solo escala, y el factor de escala es su autovalor.
Descomposición en valores singularesToda matriz real se escribe como el producto de una rotación, un estiramiento a lo largo de ejes perpendiculares y otra rotación, y los factores de ese…
Gradiente y regla de la cadenaEl gradiente de una función de varias variables es el vector de sus derivadas parciales y apunta en la dirección de máximo crecimiento.
Matriz jacobiana y matriz hessianaLa jacobiana reúne las derivadas primeras de una función que devuelve varios valores, y la hessiana reúne las derivadas segundas de una función que…
ConvexidadUna función es convexa cuando el segmento que une dos puntos de su gráfica nunca queda por debajo de ella, y en ese caso todo mínimo local es también…
Descenso de gradienteEl descenso de gradiente busca el mínimo de una función avanzando en cada paso una fracción del gradiente, pero en sentido contrario.
Probabilidad condicional y teorema de BayesEl teorema de Bayes invierte una probabilidad condicional: Convierte la probabilidad del dato dada la hipótesis en la probabilidad de la hipótesis dado el…
Esperanza y varianzaLa esperanza es el promedio ponderado de los valores de una variable aleatoria y la varianza mide cuánto se separan de ese promedio.
Distribución normal y teorema central del límiteLa distribución normal queda descrita por su media y su desviación típica, y el teorema central del límite explica por qué la media de muchas variables…
Máxima verosimilitudLa estimación por máxima verosimilitud elige los parámetros que hacen más probables los datos observados.
Entropía y divergencia de Kullback y LeiblerLa entropía mide la incertidumbre media de una distribución en bits, y la divergencia de Kullback y Leibler mide cuántos bits se desperdician al codificar…
Intervalos de confianza y contrastes de hipótesisUn intervalo de confianza del 95 % es un procedimiento que, repetido muchas veces, atrapa el valor verdadero en el 95 % de las muestras, y un contraste…

Algoritmos

Cubre el análisis asintótico, las recurrencias, la programación dinámica, los algoritmos de grafos, el flujo máximo y las reducciones entre problemas NP completos. Es la preparación directa de CS 6515 y del componente de búsqueda de CS 6601.

IA clásica

Recorre la IA anterior al aprendizaje profundo, es decir la búsqueda, los juegos, la satisfacción de restricciones, la lógica, la planificación y el razonamiento probabilístico con redes bayesianas y modelos ocultos de Markov. Prepara para CS 6601, CS 7637 y CS 7638.

Machine Learning

Trata el compromiso entre sesgo y varianza, los modelos supervisados clásicos, la optimización aleatoria, el agrupamiento, la reducción de dimensionalidad y las métricas con las que se juzga un resultado. Da la base de CS 7641, CS 7646 y la parte de modelado de CSE 6242.

Aprendizaje profundo

Explica cómo se entrena una red neuronal de principio a fin, con retropropagación, activaciones, normalización, optimizadores, convoluciones, atención y modelos generativos. Prepara para CS 7643 y para la parte moderna de CS 6476.

Aprendizaje por refuerzo

Estudia la decisión secuencial sobre procesos de decisión de Markov, desde la iteración de valor y el aprendizaje por diferencias temporales hasta el gradiente de política y los métodos actor crítico. Prepara para CS 7642 y para los proyectos de agentes de CS 7646.

Lenguaje natural y modelos de lenguaje

Va de los n gramas y los embeddings estáticos al transformador, el preentrenamiento, la decodificación y el ajuste por instrucciones con retroalimentación humana. Prepara para CS 7650 y CS 7652.