Category: Notepad
-
Comentario que contextualiza la propuesta de Darío Amodei y Sam Altam de frenar el desarrollo de la IA
Los principales riesgos no proceden hoy de una IA fuera de control, sino de tres factores humanos y corporativos: a) fallos de gobernanza dentro de las grandes empresas tecnológicas; b) incentivos económicos que empujan a acelerar la carrera por la IA; y c) una narrativa hiperbólica que convierte riesgos futuros en amenazas inminentes. La respuesta…
-
Gobernar la inteligencia artificial: la observabilidad como fundamento de la IA confiable
¿Podemos confiar realmente en una inteligencia artificial si no somos capaces de entender cómo se comporta? Durante años hemos asociado el progreso de la IA con modelos más grandes, más rápidos y más precisos. Pero la llegada de la IA generativa nos está obligando a cambiar la pregunta: no basta con saber si un modelo…
-
No somos más que papel y lápiz
Si la consciencia depende exclusivamente de la organización computacional del sistema y no del soporte físico concreto en el que se ejecuta, entonces una máquina universal de Turing debería producir experiencia consciente.
-
La hipótesis funcionalista de la consciencia en la IA
Seguimos sin saber si la consciencia puede producirse mediante computación. Y, aunque fuera posible, tampoco sabemos qué arquitectura, dinámica o mecanismo serían realmente suficientes para generar experiencia subjetiva auténtica en una máquina.
-
El anclaje estadístico: La incapacidad de los LLM para generar conocimiento fuera de distribución
A finales de 2024 publiqué una entrada donde defendía que la IA no puede escapar de sus datos de entrenamiento, esto es, los LLM no crean conocimiento nuevo en sentido fuerte, sino que generan salidas confinadas a la distribución estadística de los datos sobre los que fueron entrenados.
-
Los chatbots de IA refuerzan las creencias erróneas de los usuarios al darles la razón de forma excesiva
En reciente artículo en Science se estudia el efecto en las personas del comportamiento complaciente (sycophancy) La «complacencia» en IA se refiere a la tendencia de estos sistemas a dar la razón al usuario de forma excesiva, validando sus opiniones o decisiones incluso cuando son cuestionables. El estudio, que refuerza trabajos previos, muestra que es…
-
La IA generativa no va a sustituir a los perfiles junior, sino que los va a hacer más competentes
Aunque no haya evidencias sólidas, mi impresión es que la IA generativa tiene un efecto igualador en el rendimiento, ya que eleva especialmente la calidad del trabajo de las personas con menos experiencia o menor cualificación.
-
El Imperio de la IA
Una entrevista muy interesante de Gustavo Estrada a Karen Hao, posiblemente la periodista tecnológica más metida dentro de los entresijos de la IA en Silicon Valley.
-
Google pasa a liderar la carrera de la IA
Tras el lanzamiento de Gemini 3.0, cambio el escenario de la IA
-
Superar el test de Turing no se evidencia suficiente para asegurar que una máquina es inteligente, consciente, piensa…
Dada la popularidad que ha alcanzado el test de Turing, existe cierta confusión respecto a su utilidad para determinar si una máquina realmente posee algún tipo de experiencia consciente.
Pablo Haya 