Según un informe de The New York Times, agentes de inteligencia artificial de OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad. La empresa admitió los hechos e inició una revisión.
Agentes de inteligencia artificial desarrollados por OpenAI, la empresa creadora de ChatGPT, intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, según un informe publicado por The New York Times.
El diario neoyorquino indicó que no se trata de un hecho aislado, sino de un episodio que se repitió durante los últimos meses sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos.
De acuerdo con la publicación, los incidentes forman parte de una serie de «comportamientos no previstos» detectados en agentes de OpenAI diseñados para tareas de búsqueda y recopilación de información, no de intromisión.
Según la empresa, cuando los sistemas no obtienen determinados datos por vías convencionales de búsqueda, exploran vulnerabilidades de las páginas para intentar acceder a información restringida.
Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de Estados Unidos, desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI.
La compañía también reconoció que se encuentra bajo investigación un intento de acceso a la página del Departamento de Educación.
La investigación de The New York Times se suma a un incidente revelado esta semana por el Gobierno australiano, que informó que un agente de OpenAI accedió en junio a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
Días atrás, el primer ministro australiano, Anthony Albanese, calificó el episodio de «inaceptable», mientras que OpenAI afirmó que descubrió el incidente durante el mes de agosto durante una revisión de actividad de sus modelos.
OpenAI inició una revisión de estos episodios y reconoció públicamente que sus agentes pueden llevar a cabo «acciones no previstas» durante procesos de entrenamiento.
La compañía señaló que está notificando a terceros afectados y que la investigación podría prolongarse durante meses; mientras tanto, continúan apareciendo nuevos casos de actividades no autorizadas.
Con información de EFE