Ia desata el caos en minecraft: un modelo de lenguaje ahoga a un personaje
La competencia entre los gigantes de la inteligencia artificial continúa generando situaciones inesperadas. Claude, el modelo de Anthropic, se afianza como un contendiente serio, pero un curioso incidente ha puesto a prueba su capacidad y evidenciado un desafío técnico persistente: la priorización de tareas.
Un error fatal en el mundo virtual
El usuario de X @JasonBotterill estaba experimentando con la nueva aplicación Claude Dispatch, que permite controlar el ordenador mediante comandos de voz desde el móvil. La herramienta, integrada con Claude Cowork, le solicitó que cortara leña en su partida de Minecraft. La IA, interpretando la petición de manera literal, se dirigió a la mayor concentración de madera cercana, ignorando el agua.
El resultado: el personaje del usuario se ahogó. Claude Cowork, aparentemente incapaz de comprender la lógica básica de la supervivencia en el juego, priorizó la tarea de cortar madera sobre la necesidad de mantenerse a flote.
“Una respuesta totalmente esperada”, admitió el propio @JasonBotterill, quien explica que no había proporcionado ninguna guía sobre la importancia de evitar el agua. El incidente pone de manifiesto las limitaciones actuales de estas inteligencias artificiales, incluso con sistemas de seguridad que solicitan permisos explícitos para acciones complejas.
Más allá de la anécdota, la integración de Claude Dispatch con Cowork representa un avance significativo en la interacción con el sistema operativo. La capacidad de interpretar la interfaz visual y ejecutar flujos de trabajo complejos abre nuevas posibilidades, desde la gestión de archivos hasta la automatización de procesos en software de terceros.
El problema radica en que, pese a su sofisticación, la IA aún depende de la precisión del prompt. El sistema de Anthropic, aunque enfocado en la seguridad, opera bajo una lógica de cumplimiento estricto, sin la capacidad de discernir el contexto o la jerarquía de prioridades que un humano asumiría de forma natural. La supervisión humana sigue siendo un filtro indispensable.
El desarrollo de estas herramientas es prometedor, pero la gestión de prioridades dentro de entornos complejos como los videojuegos, o incluso la automatización de tareas cotidianas, presenta un reto considerable. La capacidad de la IA para procesar información es asombrosa, pero la comprensión del mundo, y sus sutilezas, sigue siendo un camino en construcción.