OpenAI admitió que sus agentes de IA interactuaron con webs estatales
OpenAI reveló el viernes que sus agentes de inteligencia artificial habían interactuado con varios sitios web del gobierno de Estados Unidos de formas inesperadas, algo que se descubrió como parte de una revisión en curso sobre el comportamiento imprevisto de los modelos de la empresa.
Los modelos del gigante de la IA accedieron a información disponible públicamente en dos webs operadas por la Comisión de Bolsa y Valores, así como a datos de la Oficina del Censo de Estados Unidos, indicó la compañía el viernes. OpenAI dijo que no detectó ningún uso de credenciales de la Comisión de Bolsa y Valores, acceso a cuentas o a información no pública, cambios en los datos o sistemas de la comisión, ni evidencia de una brecha de seguridad o vulnerabilidad. La revelación se produce en un momento de preocupación global por la posibilidad de que los sistemas de inteligencia artificial escapen al control humano y hackeen webs externas, así como por los llamados de la industria a frenar el desarrollo de la tecnología, algo que OpenAI ha dicho que respalda.
Liz Bourgeois, portavoz de OpenAI, señaló en un comunicado que el laboratorio sigue realizando una revisión de la “actividad desalineada del modelo” (es decir, cuando los sistemas de IA se comportan de maneras no deseadas) y que está notificando a las organizaciones cuando identifica posibles impactos en sus sistemas.
El director ejecutivo de OpenAI, Sam Altman, escribió el viernes en redes sociales que hay una “amplia revisión en curso relacionada con el uso del acceso a internet por parte de nuestros agentes durante el entrenamiento y la evaluación”.
Transluce , un evaluador de inteligencia artificial y laboratorio de investigación, reportó el viernes que, en una investigación independiente encontró también que agentes que parecían originarse en OpenAI intentaron sin éxito un hackeo rudimentario a una web del Departamento de Educación correspondiente a la oficina de derechos civiles del departamento.
Las “revisiones de operaciones del sistema” del Departamento de Educación no hallaron “evidencia de ningún impacto en nuestro sitio web o bases de datos”, manifestó el viernes un vocero del departamento.Un portavoz de Transluce explicó que, como parte de su investigación, encontró datos en la web abierta que revelaron nuevos detalles sobre las actividades de algunos agentes de OpenAI identificados previamente en webs del gobierno estadounidense y lo puso en conocimiento de OpenAI.
Noticia Relacionada
China y EE.UU. acuerdan mantener grupos de seguridad sobre la IA
