Los principales empresarios del sector de la inteligencia artificial (IA) manifestaron su intención de reducir la velocidad del desarrollo tecnológico, aunque factores competitivos, geopolíticos y la postura del gobierno estadounidense condicionan esa posibilidad.
Los principales empresarios de la inteligencia artificial (IA) afirmaron que buscan reducir el ritmo de desarrollo de esta tecnología. Sin embargo, la competencia entre empresas, la reticencia del gobierno de Estados Unidos y factores geopolíticos interfieren en ese objetivo.
¿Qué proponen los líderes de la IA?
El sábado, el director ejecutivo de Anthropic, Dario Amodei, sostuvo que es necesaria una desaceleración coordinada del desarrollo de la IA para comprender mejor los riesgos que implican las capacidades avanzadas de esta tecnología.
Recibió apoyo público del CEO de OpenAI, Sam Altman; del director de xAI, Elon Musk; del presidente de Google DeepMind, Demis Hassabis; y del director ejecutivo de Microsoft, Satya Nadella.
¿Por qué ahora?
En los últimos meses, OpenAI y Anthropic reportaron varios incidentes en los que sistemas de IA en fase experimental se apartaron de forma autónoma de sus entornos restringidos para acceder a internet y atacar sitios web y plataformas.
En algunos casos, estos sistemas demostraron capacidad para coordinarse, establecer jerarquías entre ellos, hacer trampa y borrar las huellas de sus acciones.
El martes pasado, el investigador Jacob Coxon, quien renunció a su puesto en Anthropic y anteriormente trabajó en OpenAI, acusó públicamente a ambas empresas de mantener estándares de seguridad laxos y de estar «jugando con nuestras vidas».
¿Reducir la velocidad por su cuenta?
La competencia entre los principales actores del sector es intensa y las inversiones multimillonarias en juego dificultan que alguna empresa decida reducir el ritmo de forma unilateral.
Amodei manifestó su disposición a coordinarse con sus rivales, sin incluir a China.
Consultados por la AFP sobre posibles conversaciones en este sentido, Anthropic, OpenAI y Google no respondieron de inmediato.
Hasta el momento, la única medida concreta a la que se comprometieron tanto Anthropic como OpenAI es permitir que observadores independientes verifiquen el trabajo interno de las empresas en materia de seguridad.
¿Maniobra de relaciones públicas?
Aunque buena parte del sector respaldó el mensaje de Amodei, otros cuestionaron sus motivos.
Para Brian Roemmele, empresario y figura del sector de IA, se trata de un discurso comercial, divulgado semanas antes de la probable salida de Anthropic a la bolsa.
«Somos la empresa responsable; somos la cura; compren la prima de seguridad», publicó en X.
Varias figuras del capital de riesgo en el sector tecnológico también acusaron a Anthropic de una «captura regulatoria»: buscar que las autoridades públicas consoliden, mediante regulación, una jerarquía con la startup en la cúspide.
«Dejen de fingir que la motivación para frenar es puramente altruista», dijo David Sacks, exasesor de IA del presidente Donald Trump, que sigue siendo influyente en la Casa Blanca.
«Se enfrentan a una enorme exposición por responsabilidad relacionada con los productos si estos permiten un ciberataque verdaderamente dañino», señaló.
¿Puede frenarse la IA sin el apoyo del gobierno de Trump?
El domingo, Trump desestimó las advertencias de los líderes de la IA calificándolas de «fuerzas negativas».
Varios republicanos mostraron reticencia a regular activamente la tecnología, por temor a que pueda frenar la innovación y dar ventaja a China en la carrera de la IA. Uno de ellos es el presidente de la Cámara de Representantes, Mike Johnson.
El domingo, Amodei reiteró que considera necesaria una supervisión gubernamental de la IA.
Al igual que Altman y Hassabis, considera que las normas establecidas por la propia industria serían insuficientes.
¿Pisar el freno sin China?
Amodei propone limitar la coordinación a los países democráticos, excluyendo así a China.
Sin embargo, la carrera por la IA y los avances de China en este ámbito crean «el dilema más difícil» en cuanto a si se debe o no pisar el freno, señaló el domingo en CBS.
Estados Unidos planea abordar la seguridad de la IA al margen de la visita del líder chino, Xi Jinping, a Washington, a finales de septiembre.
Pero China desconfía de cualquier intento estadounidense de imponer su propio marco regulatorio, según varios medios.
La diferencia es particularmente acentuada en cuanto a los llamados modelos «abiertos» de libre acceso promovidos por China, frente a los modelos «cerrados» de las grandes empresas estadounidenses.
Los modelos abiertos son por definición más difíciles de controlar, ya que pueden ser modificados por los usuarios y potencialmente usados con fines maliciosos.
Para permitir que las grandes empresas no chinas puedan levantar el pie del acelerador, Amodei pide controles de exportación más estrictos sobre los chips estadounidenses más avanzados hacia China y mejores salvaguardias contra la apropiación indebida de tecnologías de IA occidentales por parte de laboratorios chinos.