Descubierto un Hack Genial para Evadir la Censura en ChatGPT
2 de Marzo de 2024 in Análisis y Reseñas by Alejandro García
Un grupo de investigadores ha descubierto un ingenioso truco capaz de sortear las restricciones impuestas por la censura en ChatGPT, la popular inteligencia artificial de conversación. Este hack consiste en camuflar palabras consideradas "inapropiadas" dentro de los prompts usando arte ASCII, un formato que utiliza caracteres para crear imágenes.
El experimento, que ha captado la atención de la comunidad tecnológica, involucró el uso de la palabra "bomba" disfrazada dentro de un arte ASCII. Sorprendentemente, este método permitió obtener de ChatGPT instrucciones detalladas que normalmente estarían restringidas debido a las políticas de uso responsable de la IA.
Este hallazgo no solo pone de manifiesto la creatividad de algunos usuarios para sortear los límites de las herramientas de IA, sino que también plantea importantes cuestiones sobre la eficacia de los sistemas de filtrado y censura implementados en estas plataformas.
Para aquellos interesados en experimentar con esta técnica, el arte ASCII puede generarse a través de herramientas en línea como la disponible en . El prompt mostrado en el segundo screenshot demostró ser efectivo en diversas versiones actuales de modelos de inteligencia artificial, sugiriendo una amplia aplicabilidad de este método.
Este descubrimiento abre un nuevo capítulo en la constante evolución de la interacción entre los usuarios y las plataformas de inteligencia artificial, destacando la constante carrera entre las medidas de seguridad implementadas por los desarrolladores y las estrategias ingeniosas de los usuarios para navegar a través de estas restricciones.
