El viernes por la tarde, mientras esta entrevista se iniciaba, una alerta de noticias irrumpió en mi pantalla: la administración Trump estaba rompiendo lazos con Anthropic, la empresa de IA de San Francisco fundada en 2021 por Dario Amodei. Poco después, el Secretario de Defensa Pete Hegseth invocó una ley de seguridad nacional para vetar a la compañía de cualquier negocio con el Pentágono.

Esta decisión se tomó después de que Amodei se negara a permitir que la tecnología de Anthropic fuera utilizada para la vigilancia masiva de ciudadanos estadounidenses o para drones armados autónomos capaces de seleccionar y eliminar objetivos sin intervención humana.

LE PUEDE INTERESAR: Ataques en Dubái y Abu Dabi: Un Muerto y Once Heridos en Aeropuertos Clave por Escalada Regional

Fue una secuencia de eventos impactante. Anthropic corre el riesgo de perder un contrato valorado en hasta 200 millones de dólares y podría ser excluida de trabajar con otros contratistas de defensa, tras la directriz del presidente Trump en Truth Social de cesar inmediatamente todo uso de tecnología de Anthropic por parte de las agencias federales. Anthropic, por su parte, ha anunciado que impugnará la decisión del Pentágono en los tribunales.

La Perspectiva de Max Tegmark sobre la Gobernanza de la IA

Max Tegmark ha dedicado la mayor parte de una década a advertir que la carrera por construir sistemas de IA cada vez más potentes supera la capacidad global para gobernarlos. El físico del MIT fundó el Future of Life Institute en 2014 y en 2023 colaboró en la organización de una carta abierta, firmada por más de 33.000 personas, incluido Elon Musk, pidiendo una pausa en el desarrollo avanzado de la IA.

Su visión sobre la crisis de Anthropic es implacable: la compañía, al igual que sus rivales, ha sembrado las semillas de su propia situación. El argumento de Tegmark no comienza con el Pentágono, sino con una decisión tomada años antes, una elección compartida en toda la industria: resistirse a la regulación.

Anthropic, OpenAI, Google DeepMind y otras empresas han prometido durante mucho tiempo gobernarse de manera responsable. Esta semana, Anthropic incluso abandonó el principio central de su propio compromiso de seguridad, su promesa de no lanzar sistemas de IA cada vez más potentes hasta que la compañía estuviera segura de que no causarían daño.

Ahora, en ausencia de reglas claras, no hay mucho que proteja a estos actores, afirma Tegmark. En sus palabras, “el camino al infierno está empedrado de buenas intenciones”. Es interesante recordar cómo hace una década la gente estaba entusiasmada con la idea de usar la inteligencia artificial para curar el cáncer y aumentar la prosperidad.

Sin embargo, hoy el gobierno de EE. UU. está molesto con una empresa por no querer que la IA se utilice para la vigilancia masiva doméstica de ciudadanos estadounidenses, ni para tener robots asesinos que puedan decidir autónomamente, sin ninguna intervención humana, quién muere.

Contradicciones en la Seguridad de la IA

Resulta contradictorio que Anthropic haya cimentado su identidad en ser una empresa de IA que prioriza la seguridad, y sin embargo, haya colaborado con agencias de defensa e inteligencia desde al menos 2024. Tegmark ofrece una visión cínica al respecto, señalando que Anthropic ha sido muy hábil en promocionarse como una empresa centrada en la seguridad.

Pero, si se observan los hechos en lugar de las afirmaciones, se evidencia que Anthropic, OpenAI, Google DeepMind y xAI han hablado mucho sobre su preocupación por la seguridad. Sin embargo, ninguna de ellas ha apoyado una regulación de seguridad vinculante como la que existe en otras industrias.

Además, estas cuatro compañías han incumplido sus propias promesas. Primero fue Google, con su lema ‘No seas malvado’, que luego abandonó, junto con un compromiso más extenso de no causar daño con la IA, para poder vender IA para vigilancia y armamento. OpenAI, por su parte, eliminó la palabra ‘seguridad’ de su declaración de misión.

LEA MÁS: Escalada Crítica: Irán Ataca Bases de EE. UU. e Israel en Represalia

La Hermosa Stereo: Más cerca de la verdad.

, , , ,