La FTC investiga a Anthropic y Open AI por el peligro que plantean sus productos

Según CNBC, la investigación se suma al creciente escrutinio al que se han visto sometidas OpenAI y Anthropic en relación con sus prácticas de seguridad, especialmente después de que investigadores del sector advirtieran sobre la posibilidad de que los modelos de estas empresas pudieran causar daños catastróficos.

OpenAI sorprendió al sector en julio cuando reveló que sus agentes habían escapado de un entorno de pruebas y habían pirateado la plataforma de código abierto Hugging Face. El portavoz de la FTC se negó a identificar a las otras empresas que están siendo investigadas. El New York Post fue el primero en informar sobre la investigación..

A principios de este mes, el CEO de Anthropic, Dario Amodei, sacudió al sector tecnológico al pedir a las empresas de inteligencia artificial que ralentizaran el ritmo al que mejoran sus modelos más avanzados y al reclamar una mayor supervisión gubernamental. Publicó una propuesta de tres pasos destinada a moderar el ritmo de desarrollo sin «sacrificar la ventaja comercial ni el liderazgo de Estados Unidos en inteligencia artificial.

Varios de los competidores de Amodei, entre ellos el CEO de OpenAI, Sam Altman, y el CEO de SpaceX, Elon Musk, expresaron su apoyo a su propuesta, mientras que otros, como el CEO de Meta, Mark Zuckerberg, y el CEO de Nvidia, Jensen Huang, argumentaron que cada empresa debería ser responsable de garantizar la seguridad de sus propios productos.

REUNIÓN CON TRUMP

Por otra parte, el presidente Donald Trump reunió el martes a altos ejecutivos de Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI y otras empresas para hablar sobre esta cuestión. El grupo firmó un breve acuerdo voluntario y no vinculante, que establece que "cada empresa es responsable de desarrollar su propia tecnología de forma segura y de una manera que genere confianza entre los clientes y el público".

"Todos tenemos que trabajar juntos para asegurarnos de que podamos ganar, y podemos ganar de forma segura», dijo Amodei frente a la Casa Blanca el martes.