Clase 12: LLMs y repaso
Eje IV: Procesamiento de lenguaje natural (NLP)
Objetivo
Segunda de las dos clases de texto. Los modelos de lenguaje grandes (LLMs) están en todos lados, y casi nadie sabe qué pasa adentro. Hoy armamos una intuición de cómo funcionan, sin entrar en las cuentas, y sobre todo cómo se pueden usar en ciencias del comportamiento: como un instrumento de medición que se valida contra personas, igual que cualquier otro.
Contenidos
- Los embeddings: el significado como posición. Qué es una red neuronal (regresiones logísticas apiladas) y cómo comprime una palabra a unos cientos de números.
- El problema del contexto: una palabra, un solo vector. La atención (Attention is all you need, 2017) y la ventana de contexto.
- Cómo genera texto un LLM: predecir la próxima palabra, una y otra vez. Del modelo que autocompleta al que contesta. La temperatura.
- El LLM como instrumento: anotar textos con una consigna. Un caso real (el pensamiento espontáneo) y cómo se valida contra personas.
- Participantes sintéticos: para qué sirven y dónde no alcanzan.
- Riesgos (alucinaciones, sesgos, complacencia) y el LLM como sujeto experimental.
- Repaso del curso, clase por clase: la pregunta que nos hicimos en cada una, los métodos que usamos y lo que encontramos. Y el mapa completo de qué método usar.
nimbus_comentarios_temas.csv trae, para cada comentario de la clase pasada, su tema (carga, reuniones, liderazgo…), su tono y si es irónico. Como Nimbus es simulada, eso se sabe de antemano, y es la referencia contra la que validamos lo que anota el LLM. Con datos reales, esa referencia la arma una persona anotando a mano una parte de los textos.
Notebooks
La notebook es la práctica de la clase: conectarse a un LLM gratis por API, ver el efecto de la temperatura, armar una consigna de anotación y anotar el sentimiento y el tema de comentarios de Nimbus, comparando con la clase 11. Necesita una clave gratuita de OpenRouter; los pasos están al principio de la notebook. Tiene dos consignas.
| Lenguaje | Leer en el sitio | Ejecutar en Colab | Descargar |
|---|---|---|---|
| Python | Notebook renderizada |  |
.ipynb |
La versión en R de esta clase no está publicada.
Los datos
Los archivos se leen por URL desde la notebook, sin bajar nada.
| Archivo | Contenido | URL |
|---|---|---|
nimbus_comentarios.csv |
el comentario abierto de cada empleado | /data/toy-nimbus/nimbus_comentarios.csv |
nimbus_patrones.csv |
la nota de recomendación | /data/toy-nimbus/nimbus_patrones.csv |
nimbus_comentarios_temas.csv |
tema, tono e ironía de cada comentario | /data/toy-nimbus/nimbus_comentarios_temas.csv |
Slides
Lecturas
Obligatoria:
- Alammar, J. & Grootendorst, M. (2024). Hands-On Large Language Models. O’Reilly, capítulo 1 (“An Introduction to Large Language Models”). Sitio oficial: https://www.llm-book.com/.
Recursos de consulta:
- 3Blue1Brown, de su serie sobre redes neuronales: el video corto Large Language Models explained briefly, y para ir más a fondo Transformers y Attention in transformers.
- Dot CSV, en castellano: ¿Qué es un Transformer? y ¿Qué es un LLM?.
- DeepLearning.AI, curso corto gratuito de los autores del libro: How Transformer LLMs Work.
- Vaswani, A. et al. (2017). Attention is all you need. NeurIPS. https://arxiv.org/abs/1706.03762
- Bruno, N. et al. (2026). Decoding the phenomenology of spontaneous thought using large language-model ratings on verbal retrospective free reports. bioRxiv. https://doi.org/10.64898/2026.04.22.720079