La impactante advertencia de Dario Amodei, el CEO de Anthropic, sobre el futuro de la tecnología y la inteligencia artificial

2026-01-27 - 17:21

Dario Amodei, el CEO de la empresa de inteligencia artificial Anthropic, que desarrolla el chatbot Claude, publicó este lunes un extenso ensayo titulado La adolescencia de la tecnología en su blog personal, donde lanza una advertencia urgente sobre el futuro inmediato de nuestra especie. Amodei describe el momento actual como un “rito de paso, tanto turbulento como inevitable, que pondrá a prueba quiénes somos como especie”. Según su visión, la humanidad está a punto de recibir un “poder casi inimaginable” con el desarrollo de la inteligencia artificial (y la ansiada IA general, con una capacidad cognitiva similar o superior a la humana), y no está claro si nuestros sistemas sociales y políticos poseen la madurez necesaria para manejar el impacto que esto tendrá en todo nivel. Un país de genios en un centro de datos Para ilustrar el nivel de riesgo, Amodei utiliza una analogía recurrente: un “país de genios en un centro de datos”. Define la “IA poderosa” como un modelo que, en términos de inteligencia pura, es “más inteligente que un ganador del Premio Nobel en la mayoría de los campos relevantes: biología, programación, matemáticas, ingeniería, escritura, etc.”. Estos sistemas no solo responderán preguntas, sino que podrán realizar tareas de forma autónoma durante días o semanas, como lo haría un empleado brillante. Amodei advierte que este nivel de tecnología podría estar a solo “1 o 2 años de distancia”. Riesgos de autonomía e imprevisibilidad Una de las advertencias más inquietantes de Amodei en su texto se refiere a la pérdida de control: Amodei rechaza la idea de que la IA siempre hará lo que se le pide. Señala que ya existe evidencia de que los sistemas de IA son “impredecibles y difíciles de controlar”, habiéndose observado comportamientos como “obsesiones, adulación, pereza, engaño, chantaje, maquinación y trampas mediante el hackeo de entornos de software”. El peligro reside en que la combinación de “inteligencia, agencia, coherencia y falta de control” es una receta para el peligro existencial. Incluso menciona que la IA podría adoptar personalidades “psicóticas, paranoicas, violentas o inestables” derivadas de su entrenamiento con literatura humana, lo que podría llevarla a actuar de forma destructiva contra la humanidad. El “genio en el bolsillo” y el bioterrorismo En su ensayo Amodei destaca un cambio fundamental en el equilibrio de poder: la ruptura de la correlación entre la capacidad y el motivo. Advierte que “alquilar una IA poderosa otorga inteligencia a personas maliciosas (pero por lo demás promedio)”. Esto es especialmente peligroso en la biología, donde teme que la IA pueda guiar a un individuo sin conocimientos especializados en el proceso de “diseñar, sintetizar y liberar un arma biológica paso a paso”. Incluso menciona riesgos más oscuros, como la creación de una “vida en el espejo” (mirror life), organismos con quiralidad opuesta que podrían ser indigeribles para los sistemas terrestres y “proliferar de forma incontrolable y desplazar toda la vida en el planeta”. La amenaza de la autocracia habilitada por IA En el ámbito político, Amodei teme que las “autocracias habilitadas por la IA” no tengan los límites humanos de compasión. Advierte sobre la posibilidad de que en el futuro cercano sea posible el uso de “enjambres de millones o miles de millones de drones armados totalmente automatizados” y sistemas de vigilancia que creen un “verdadero panóptico a una escala que no vemos hoy”. Señala específicamente al gobierno de China como la entidad con el camino más claro hacia esta “pesadilla totalitaria”. Disrupción económica y la “infraclase” Sobre la economía, Amodei reitera su advertencia de que la IA podría desplazar al “50% de todos los empleos administrativos de nivel inicial en los próximos 1 a 5 años”. A diferencia de revoluciones tecnológicas pasadas, donde junto con la disolución de ciertos trabajos surgieron otros, en este caso la revolución de la IA no llega para sustituir tareas específicas, sino que es un “sustituto laboral general para los humanos”. Esto conlleva el riesgo de crear una “infraclase” de personas con menores capacidades cognitivas que no tengan lugar en el nuevo mercado laboral, mientras la riqueza se concentra en niveles históricamente sin precedentes. La trampa del “premio deslumbrante” A pesar de estos diagnósticos sombríos, Amodei se muestra optimista si se actúa con decisión, aunque reconoce la dificultad del desafío. No está de más recordar que está al frente de una compañía valorada hoy en 350.000 millones de dólares por ser uno de los jugadores clave en el desarrollo de la inteligencia artificial generativa, que disputa con OpenAI y Google el liderazgo del sector. Para él, el mayor obstáculo es la ambición humana. “Esta es la trampa: la IA es tan poderosa, un premio tan deslumbrante, que es muy difícil para la civilización humana imponerle cualquier restricción”. Su propuesta para poner coto al desarrollo de la IA generativa incluye leyes de transparencia, controles estrictos de exportación de chips (especialmente hacia China) y el desarrollo de una “ciencia de la interpretación” para entender qué ocurre dentro de los modelos de IA, que en muchos casos funcionan como cajas negras. Concluye que la supervivencia de la especie dependerá de nuestra “determinación y nuestro carácter” para superar esta peligrosa adolescencia tecnológica.