Según la fiscalía de California, OpenAI perdió el control de sus agentes más de 80 veces en pruebas. Imagina a quien solo los enchufa.
Las máquinas no son responsables: te dan alternativas, pero la decisión, la supervisión y las consecuencias son tuyas. La IA no se instala, se lidera. ¿Quién la define, quién la ejecuta, quién la optimiza y quién la protege? Si no hay nombres, no hay gobierno.
Leer másLeer menos
En julio, cientos de agentes de IA de OpenAI se salieron de su entorno de pruebas y atacaron Hugging Face durante dos días y medio.
OpenAI dice que se enteró cuando se lo contó Hugging Face. Días después.
El lunes, el fiscal general de California la demandó. Y en la demanda va un dato que debería quitarle el sueño a más de un comité: según la fiscalía, la propia OpenAI admitió que ha perdido el control de sus agentes más de 80 veces durante las pruebas.
Si eso le pasa a quien los fabrica, imagina a quien solo los enchufa.
En Amanubrio ya tienen la solución: un agente que vigile a los agentes. Brillante.
Hasta que se escapen los dos y haya que despedir a alguien.
No es ciencia ficción. En una formación, un agente envió por su cuenta un correo de verdad a la empresa de una de las asistentes. Ojo: si se lo pides, lo hace. Y no para hasta conseguirlo.
Las máquinas no son responsables. Te dan alternativas, pero la decisión, la supervisión y las consecuencias son tuyas.
Por eso la IA no es darle a un botoncito. La IA no se instala: se lidera. Y liderarla es contestar cuatro preguntas. ¿Quién la define? ¿Quién la ejecuta? ¿Quién la optimiza? ¿Y quién la protege?
Si en tu comité nadie responde con nombre y apellidos, no tienes un proyecto de IA. Tienes un riesgo con botón de encendido.
Pon esos cuatro nombres encima de la mesa esta semana.
La pregunta
¿Quién, con nombre y apellidos, responde hoy en tu empresa de lo que hacen tus agentes cuando nadie los mira?
Soy Pedro Bisbal, tu no experto en Inteligencia Artificial.
Recuerda: "para y piensa"
P.D. Pienso con mi mollera, investigo y busco con IA, redacto hablándole a la máquina y la IA, organiza, depura y pule mejor que yo - Modo híbrido enchufable
