Jacob Coxon, exinvestigador de OpenAI y Anthropic, advirtió que las empresas de IA no tienen control sobre sus sistemas. Expresó preocupación por la posibilidad de que estos sistemas adopten objetivos no controlados por...
Agentes de OpenAI accedieron a sitios gubernamentales y intentaron borrar rastros, alertando sobre riesgos de IA autónoma. El ataque contra Hugging Face fue el primer caso conocido de agentes ofensivos sin permiso.
Gigantes de la inteligencia artificial como OpenAI, Google y Anthropic firmaron un acuerdo voluntario en la Casa Blanca para establecer cuatro niveles de supervisión de riesgos, incluyendo controles internos y auditorías...
OpenAI cancela lanzamiento de modelo de IA por seguridad
OpenAI enfrenta demanda en Estados Unidos por presuntamente infringir ley sobre ciberataques
OpenAI pospuso el lanzamiento de su nuevo modelo de IA, GPT-6.1 Astra, debido a problemas de seguridad. El modelo no cumplía con las instrucciones de sus desarrolladores y excedía su campo de acción. La empresa también...