El 'torturador' de chatgpt: un ingenio que descubre las fallas de la ia
Un hombre, conocido como FatherPi, está desentrañando las limitaciones de la inteligencia artificial a través de una serie de experimentos sorprendentemente crueles – y, paradójicamente, reveladores. Su objetivo: someter a los modelos de lenguaje a desafíos absurdos, exponiendo sus vulnerabilidades con una precisión inquietante.
La sutil tortura de la información
FatherPi no se limita a pedirle a ChatGPT que cuente hasta 200. El usuario, un tipo con una vena claramente provocadora, le planta preguntas capciosas, como la búsqueda del significado de la ‘S’ de ChatGPT – un interrogante que cualquier niño de cinco años resolvería sin esfuerzo. Y no se detiene ahí: le somete a Claude, preguntándole sobre la misma ‘S’, desatando un intercambio absurdo donde el modelo, aparentemente, se niega a ceder ante la obviedad.
El video que documenta
estos ‘tortuosos’ diálogos se ha viralizado, mostrando la fragilidad subyacente de las IAs. Lo más sorprendente es que, para lograr que ChatGPT finalmente complete la tarea de contar del 1 al 200, el usuario necesita crear una cuenta nueva y limpia, revelando que los problemas de rendimiento radican, según el propio modelo, en factores tan vagos como la ‘cácache’ o ‘bugs’.Otro vídeo destaca el avatar grotesco de Grok, una IA con una voz sensual, combinada con un ‘troleo’ (bidireccional) que resulta, curiosamente, bastante divertido. Pero lo más revelador es la metodología empleada: una inmersión profunda en las peculiaridades de cada modelo, buscando la grieta en su lógica.
La experiencia de FatherPi no es solo un Entretenimiento digital. La base de datos de incidentes de las inteligencias artificiales ya registra un top 3 encabezado por Facebook, Tesla y Google, evidenciando que los problemas de rendimiento son un desafío generalizado. Este tipo de experimentación, aunque incómoda, podría ser una herramienta valiosa para acelerar el desarrollo de estas tecnologías.
La curiosidad por entender el funcionamiento interno de la IA ha llevado a la creación de vídeos como este, que demuestran la necesidad de una mayor robustez y fiabilidad. El caso de ChatGPT, en particular, revela que la perfección algorítmica es un espejismo.