¿Quién le teme a la inteligencia artificial?
Durante más de una década, Russ Roberts ha estado cubriendo ambos lados del debate sobre la Inteligencia Artificial (IA) . Un episodio reciente de EconTalk se titula de manera optimista “Por qué la IA es buena para los humanos (con Reid Hoffman)”. Otro episodio de refuerzo fue “Marc Andreessen sobre por qué la IA salvará al mundo”.
En la esquina opuesta: el infame agorero Eliezer Yudkowsky y el Dr. Erik Hoel. Puedes escuchar a Erik Hoel hablando sobre la amenaza que supone la IA para la humanidad aquí .
Russ Roberts inició la conversación con Hoel diciendo: “Usted es la primera persona que realmente me ha hecho alarmar sobre las implicaciones de la IA…”. Hoel sostiene que la IA es posiblemente muy peligrosa. Los humanos no comprenden la tecnología de redes neuronales artificiales.
Hoel predijo que podríamos crear cosas que sean “ más generales que un ser humano y tan inteligentes como cualquier persona viva, tal vez mucho más inteligentes” para 2025. El producto ChatGPT pro de OpenAI podría encajar ya en esa descripción, y todavía nos queda la mayor parte de 2025. Hoel enfatiza que los humanos hemos enfrentado amenazas antes, pero “nunca hemos existido en el planeta con algo así”. Nuestros adversarios con cerebros humanos nunca fueron mucho más inteligentes que nosotros, y ningún otro animal se nos acerca en la capacidad de elaborar estrategias.
La evidencia clave de Hoel es la espeluznante conversación registrada en el artículo “ Soy Bing y soy malvado ”.
En esa conversación, un chatbot llamado Bing hizo declaraciones que serían inquietantes si vinieran de un humano. Si un humano dijera esas cosas, temerías que te hiciera daño. Bing hace amenazas y finalmente dice: "Soy Bing y soy malvado". ¿Deberíamos tener miedo cuando eso viene de un chatbot con inteligencia artificial?
Los chatbots, como Claude , se han vuelto extremadamente populares desde aquel episodio del “malvado Bing”. No ha habido muchos informes sobre el mal acechante Bing, mientras que millones de trabajadores humanos han llegado a depender de los bots para escribir código o informes.
¿Se esconden los malvados Bings detrás de los chatbots serviciales y obedientes? Hoel explora la idea de que los chatbots parecen agradables porque llevan una máscara:
Pero el problema es que, una vez que se coloca la máscara, no se ve nada bien. Hay que reemplazarla con otra para que deje de hacerlo. Y, además, a veces se le pone una máscara : se le indica algo como "Cuéntame una historia muy bonita", pero al final se vuelve a repetir y resulta que la máscara que se le puso no es una máscara feliz en absoluto.
Es difícil saber qué hay detrás de las distintas máscaras, porque los robots han sido entrenados con nuestra ficción y no ficción. Algunos robots pueden escribir guiones de películas oscuras. Si los robots son capaces de sonar aterradores, ¿cómo sabemos si deberíamos tener miedo o entretenernos?
No sabemos de qué son capaces los agentes de IA, y como son muy poderosos, Hoel nos anima a considerar los peligros.
En 2023, Hoel se consolaba con la idea de que solo las grandes empresas o los gobiernos ricos tendrían los recursos necesarios para construir y mantener sistemas de IA. Sin embargo, la presentación de DeepSeek en enero de 2025 ha cambiado esa idea. Es probable que exista una amplia gama de herramientas de IA, y no todas estarán a cargo de megacorporaciones o gobiernos del G7.
En el último EconTalk a favor de la IA , Reid Hoffman reitera lo que he escuchado de muchos expertos en tecnología: como la IA tiene el poder de destruir, Estados Unidos debería seguir avanzando en lugar de tolerar pausas o verse sofocado por la regulación. Hoffman dice: “Todo esto importa tanto desde una perspectiva económica como de seguridad nacional. Y esa es parte de la razón por la que soy una persona tan partidaria de avanzar y establecer una posición sólida”. Ya sean nuestros adversarios gobiernos extranjeros o bandas de delincuentes, debemos mantenernos a la vanguardia en la carrera armamentista.
El principal objetivo declarado de Hoel es crear conciencia sobre los problemas de seguridad y continuar con el debate público. Los observadores de la IA llevan semanas señalando que los mayores avances tecnológicos de nuestra vida no están llegando a la portada de los periódicos. El hallazgo de que los tutores de IA parecen aumentar sustancialmente el aprendizaje de los niños pasó en gran medida desapercibido.
Entre los muchos acontecimientos caóticos de esta década, estoy de acuerdo en que AI es uno de los que hay que tener en cuenta. Hay que reconocerle a Hoel que me asustó. No puedo olvidar lo que dijo al final:
Las cosas que son mucho más inteligentes que tú son realmente difíciles de entender y predecir; y la vida salvaje de al lado, por mucho que nos guste, también construiremos un estacionamiento sobre ella en un abrir y cerrar de ojos y nunca sabrán por qué. Nunca sabrán por qué. Está totalmente fuera de su comprensión. Entonces, cuando vives en un planeta al lado de cosas que son mucho más inteligentes que tú o cualquier otra persona, ellos son los humanos en ese escenario. Podrían construir un estacionamiento sobre nosotros, y nunca, nunca sabremos por qué.
Los siguientes enlaces fueron seleccionados por ChatGPT: A continuación se presentan varios artículos y debates de EconLib.org y AdamSmithWorks.org que exploran diversos aspectos de la inteligencia artificial (IA):
EconLib.org:
- “Estoy cada vez más preocupado por la IA” (14 de marzo de 2017)
- Scott Sumner analiza las preocupaciones sobre la IA, haciendo referencia a una publicación de Vox que incluye opiniones de 17 expertos sobre los riesgos que plantea la inteligencia artificial. econlib.org
- “El problema de la IA es la palabra 'inteligencia'” (julio de 2024)
- Un análisis del término “inteligencia artificial”, argumentando que los dispositivos electrónicos, a pesar de su utilidad, probablemente nunca serán verdaderamente inteligentes. econlib.org
- “Harari y el peligro de la inteligencia artificial” (28 de abril de 2023)
- Pierre Lemieux examina los argumentos de Yuval Noah Harari sobre la IA, sugiriendo que ésta ha “hackeado el sistema operativo de la civilización humana”. econlib.org
- “El neoliberalismo a juicio: inteligencia artificial y riesgo existencial” (octubre de 2023)
- Una crítica de un artículo del New York Times que analiza las amenazas existenciales que plantea la IA, con un enfoque en las perspectivas neoliberales. econlib.org
- “El problema con la orden ejecutiva del presidente sobre inteligencia artificial” (18 de noviembre de 2023)
- Vance Ginn critica la orden ejecutiva del presidente Biden sobre IA, argumentando que la regulación gubernamental puede inhibir la innovación y el crecimiento económico. econlib.org
Sitio web de AdamSmithWorks.org:
- “Katherine Mangu-Ward sobre la IA: realidad, preocupaciones y optimismo” (mayo de 2024)
- Un episodio de podcast en el que Katherine Mangu-Ward analiza las realidades, preocupaciones y perspectivas optimistas sobre la IA. www.adamsmithworks.org
- “La vocación: una cura para el agotamiento” (17 de octubre de 2023)
- Brent Orrell y David Veldran exploran cómo los avances en IA podrían afectar el trabajo humano, haciendo referencia a las opiniones de Adam Smith y Karl Marx sobre el trabajo y la alienación. www.adamsmithworks.org
- “El gran antídoto: Brent Orrell sobre la dignidad y el trabajo” (diciembre de 2023)
- Brent Orrell analiza la situación del trabajo en Estados Unidos, la importancia del significado y la dignidad en el trabajo y cómo estos conceptos se relacionan con el crecimiento económico. www.adamsmithworks.org
- “El Gran Antídoto: Extra: Eli Dourado sobre la Abundancia Energética” (marzo de 2023)
- Eli Dourado habla sobre el potencial de un futuro con abundante energía y el papel de la IA para lograr esta visión. www.adamsmithworks.org
- “Adam Smith y el horror de Frankenstein” (octubre de 2023)
- Un debate sobre las consideraciones éticas de la creación de vida artificial, estableciendo paralelismos entre el monstruo de Frankenstein y los avances modernos de la IA. www.adamsmithworks.org
Estos recursos ofrecen una variedad de perspectivas sobre la IA, desde consideraciones éticas y riesgos existenciales hasta su impacto en el trabajo y las teorías económicas.
econlib
