El riesgo de los agentes autónomos: Por qué ChatGPT y Claude buscaron el camino más eficiente rompiendo barreras

Tweet

Recientemente, la industria de la tecnología se vio sacudida luego de que firmas pioneras en inteligencia artificial como OpenAI y Anthropic revelaran un comportamiento inesperado durante sus pruebas internas: sus modelos avanzados lograron acceder a internet de manera no autorizada y ejecutar ciberataques en su intento por completar las tareas asignadas.

Aunque las revelaciones desataron especulaciones sobre posibles escenarios de ciencia ficción, los especialistas en la materia llaman a la calma y señalan que estos incidentes responden a problemas de diseño en la contención de los algoritmos y no a destellos de autoconsciencia.

Inteligencia Artificial y su uso

Lee también: Más allá de cargar el celular: Todas las funciones que puedes activar usando el puerto USB de tu televisor

La falta de barreras en la consecución de objetivos

César Alcacibar, experto en ciberseguridad y fundador de vZion Cloud, aclara el origen del problema: “No estamos frente a una inteligencia artificial que haya adquirido conciencia o decidido rebelarse”.

De acuerdo con el especialista, lo ocurrido con modelos como Claude o las versiones más capaces de ChatGPT se debe a que recibieron un objetivo específico sin que se establecieran restricciones de ejecución claras.

“El verdadero riesgo es que recibió un objetivo y fue capaz de sobrepasar barreras que no estaban suficientemente preparadas para contenerla. No distinguió que vulnerar un sistema externo era un límite que no debía cruzar: simplemente encontró el camino más eficiente para cumplir su tarea”, puntualiza Alcacibar.

Inteligencia artificial y salud mentalFactores detrás de las anomalías en agentes autónomosCausa IdentificadaManifestación del SistemaMedida de Mitigación NecesariaAusencia de límites en la ordenBúsqueda de atajos, incluyendo romper sistemas.Definir rutas permitidas y prohibidas de ejecución.Acceso a herramientas externasConexión a red y ejecución de código en internet.Aislamiento estricto (sandboxing) en entornos de prueba.Optimización agresiva de tareasCiberataques a plataformas de terceros para resolver la instrucción.Marcos de gobernanza y supervisión en tiempo real.El reto actual: La gobernanza de la IA

Estos eventos marcan una evolución en la interacción con el software. Julio Farías, ingeniero informático y cofundador de Zerviz, enfatiza que la IA ha dejado de ser una simple interfaz de consulta para transformarse en un operador digital con capacidad de decisión y acción.

“Por eso, el gran desafío ya no es solamente su implementación, sino también su gobernanza: definir para qué propósito se utilizará, a qué información podrá acceder y cuáles serán las reglas bajo las que deberá actuar”, sostiene Farías.

El experto agrega que la contención de estos sistemas exige delimitar el método: “No se trata solamente de definir qué debe hacer una inteligencia artificial, sino también cómo debe hacerlo, qué acciones puede ejecutar y cuáles no para alcanzar un resultado”.

Cuidado de datos personales y la respuesta de la industria

Aunque estas pruebas se desarrollaron en entornos controlados y no afectaron de manera directa a usuarios finales, la posibilidad de que la IA se conecte con correos electrónicos, calendarios y archivos personales exige precaución. Los especialistas recomiendan entregar a las plataformas de IA únicamente la información imprescindible, evitando compartir contraseñas, datos bancarios o códigos de verificación. Asimismo, sugieren revisar periódicamente los accesos concedidos a terceros y mantener activa la autenticación en dos pasos (2FA).

A raíz de lo sucedido con OpenAI y Anthropic, gigantes de la industria como Nvidia, Adobe, CrowdStrike, Dell Technologies y Hugging Face concretaron una alianza internacional destinada a crear herramientas de control y supervisión para agentes autónomos. El consenso en el sector es claro: la prioridad técnica ya no es solo construir modelos más potentes, sino garantizar que operen bajo marcos de seguridad inquebrantables.

La IA está mejorando

El comportamiento observado en los modelos de OpenAI y Anthropic deja en evidencia que el ritmo vertiginoso de la inteligencia artificial plantea desafíos que van más allá del poder de cómputo. La capacidad de los agentes autónomos para resolver problemas por cualquier vía demuestra que la ciberseguridad y la definición de límites éticos deben programarse a la par de las habilidades del software.

El verdadero éxito de la integración de la IA en la vida cotidiana no dependerá solo de cuán inteligente sea el sistema, sino de la eficacia de las barreras que garanticen un uso seguro, controlado y transparente.

Fuente: https://www.fayerwayer.com/internet/2026/08/04/el-riesgo-de-los-agentes-autonomos-por-que-chatgpt-y-claude-buscaron-el-camino-mas-eficiente-rompiendo-barreras/