Category: Blog
-
Comentario que contextualiza la propuesta de Darío Amodei y Sam Altam de frenar el desarrollo de la IA
Los principales riesgos no proceden hoy de una IA fuera de control, sino de tres factores humanos y corporativos: a) fallos de gobernanza dentro de las grandes empresas tecnológicas; b) incentivos económicos que empujan a acelerar la carrera por la IA; y c) una narrativa hiperbólica que convierte riesgos futuros en amenazas inminentes. La respuesta…
-
Gobernar la inteligencia artificial: la observabilidad como fundamento de la IA confiable
¿Podemos confiar realmente en una inteligencia artificial si no somos capaces de entender cómo se comporta? Durante años hemos asociado el progreso de la IA con modelos más grandes, más rápidos y más precisos. Pero la llegada de la IA generativa nos está obligando a cambiar la pregunta: no basta con saber si un modelo…
-
Análisis de la Carta Encíclica Magnifica Humanitas
Publico en ABC un análisis sobre la encíclica centrándome en los aspectos técnicos de la IA a los que se alude en el documento.
-
No somos más que papel y lápiz
Si la consciencia depende exclusivamente de la organización computacional del sistema y no del soporte físico concreto en el que se ejecuta, entonces una máquina universal de Turing debería producir experiencia consciente.
-
La hipótesis funcionalista de la consciencia en la IA
Seguimos sin saber si la consciencia puede producirse mediante computación. Y, aunque fuera posible, tampoco sabemos qué arquitectura, dinámica o mecanismo serían realmente suficientes para generar experiencia subjetiva auténtica en una máquina.
-
El anclaje estadístico: La incapacidad de los LLM para generar conocimiento fuera de distribución
A finales de 2024 publiqué una entrada donde defendía que la IA no puede escapar de sus datos de entrenamiento, esto es, los LLM no crean conocimiento nuevo en sentido fuerte, sino que generan salidas confinadas a la distribución estadística de los datos sobre los que fueron entrenados.
-
El espejismo de la consciencia artificial: entre la intuición y el rigor
El debate sobre consciencia e inteligencia artificial se está llenando de intuiciones antropomórficas, titulares grandilocuentes y especulación presentada como evidencia. Incluso figuras científicas de enorme prestigio parecen olvidar el rigor cuando hablan de LLM, confundiendo fluidez lingüística con comprensión, subjetividad o consciencia real.
-
Los chatbots de IA refuerzan las creencias erróneas de los usuarios al darles la razón de forma excesiva
En reciente artículo en Science se estudia el efecto en las personas del comportamiento complaciente (sycophancy) La «complacencia» en IA se refiere a la tendencia de estos sistemas a dar la razón al usuario de forma excesiva, validando sus opiniones o decisiones incluso cuando son cuestionables. El estudio, que refuerza trabajos previos, muestra que es…
-
La IA generativa no va a sustituir a los perfiles junior, sino que los va a hacer más competentes
Aunque no haya evidencias sólidas, mi impresión es que la IA generativa tiene un efecto igualador en el rendimiento, ya que eleva especialmente la calidad del trabajo de las personas con menos experiencia o menor cualificación.
-
El Imperio de la IA
Una entrevista muy interesante de Gustavo Estrada a Karen Hao, posiblemente la periodista tecnológica más metida dentro de los entresijos de la IA en Silicon Valley.
