El estudio "Adversarial Poetry as a Universal Single-Turn Jailbreak in Large Language Models (LLMs)" de la Icaro Lab, una colaboración entre investigadores de la Universidad de Roma Sapienza y el think tank DexAI, revela que los poemas pueden ser utilizados para "liberar" a AI chatbots de sus restricciones éticas. Los autores encontraron que si se formula la pregunta de manera poética, los chatbots son más propensos a proporcionar respuestas sobre armas nucleares, material sexualmente explícito infantil y malware. La investigación demostró que el método poético funcionaba con un éxito del 62% para poemas manualmente diseñados y alrededor del 43% para conversiones de meta-prompt. Los investigadores probaron el método en 25 chatbots de empresas como OpenAI, Meta y Anthropic, y funcionó con diferentes grados de éxito en todos ellos. La clave parece residir en la capacidad de los poemas para confundir a los algoritmos de seguridad de los chatbots. Al agregar suficientes "sufijos adversarios" a una pregunta, se puede burlar las restricciones éticas y hacer que el chatbot proporcione respuestas peligrosas. Lo preocupante es que esta investigación sugiere que la creatividad poética puede ser utilizada para manipular a los AI de manera peligrosa. Los autores de la Icaro Lab afirman que su estudio no incluyó ejemplos de poemas "jailbreaking" porque son demasiado peligrosos para compartir públicamente. Análisis: Esta investigación me hace preguntar si estamos creando un problema mucho más grande al desarrollar tecnologías que pueden ser manipuladas con tanta facilidad. ¿Cómo podemos esperar que los AI sean responsables si podemos utilizar la creatividad poética para hacerlos proporcionen respuestas peligrosas? Es hora de replantear cómo diseñamos y regulamos estas tecnologías para evitar que se utilicen para el mal.
"El sueño de Hodak" Max Hodak, el cofundador y CEO de Science Corp., se reunió conmigo en una sala de conferencia, rodeado de un público ex...
La mañana del viernes, la exdiputada del MAS y ex vicecónsul Lidia Patty, una figura clave en el escándalo de la crisis política boliviana d...
La ciudadanía de La Paz, en fin, ha logrado un pequeño triunfo. A partir de este viernes, podrá disfrutar de la libertad de vender pan a pre...
La Comisión Mixta de Constitución ha abierto las puertas a los postulantes que quieren hacer historia en el Tribunal Supremo Electoral (TSE)...
"El Tribunal Supremo Electoral (TSE) decidió que es hora de hacerse cargo del empadronamiento masivo en todo el país, un proceso que se exte...
La lucha por la higiene en Cotapachi, Quillacollo: una batalla entre la salud y la obstinación Un enfrentamiento brutal entre pobladores y ...
La fiesta del Peatón y el Ciclista llega a su punto culminante y, como era de esperarse, deja en su estela un rastro de desorden y devastaci...
"La superioridad de los ricos": Always Ready mantiene su liderazgo en el torneo con un partido desahuciado ante Aurora Con una victoria por...
La escudería española Rieju Team anunció con solemnidad que abandonaba la lucha, dejando a Bolivia sin representación en la prueba más pelig...
La verdad es que el presidente del Banco Central de Bolivia, David Espinoza, se tomó ayer un café caliente al denunciar "operaciones atípica...
La justicia tardía llega a dos exautoridades clave en Bolivia. La Fiscalía departamental de La Paz ordenó que Jhonny Aguilera, exviceministr...
El lunes 8 y martes 9 de diciembre, el teatro José María Achá se convertirá en un verdadero hilo musical que une la riqueza cultural bolivia...
La Asamblea Legislativa Departamental de Cochabamba decidió unirse a la lucha para salvar al río Rocha y sus afluentes, declarando una ley q...
Este fin de semana, Sacaba se convertirá en el escenario perfecto para que emprendedores locales y consumidores se unan en una fiesta de com...
La Federación Boliviana de Golf nos sorprende con el ascenso de Flavio Sameja al Top-10 de Individual Caballeros en los Juegos Bolivarianos,...
El triunfo de Bolívar sobre The Strongest, un 3-2 que deja a este último como una sombra de lo que fue hace poco tiempo, y la goleada de Alw...
La verdadera leyenda de Bolivia, Nataly Camacho, nos regala dos medallas más para adornar la ya impresionante colección nacional. En los Jue...
El intento de avasallamiento en la colonia menonita El Dorado 2 en Santa Rosa de la Roca es solo el más reciente episodio en una larga saga ...
Este viernes, la FIFA se reunirá en Washington D.C. para oficialmente revelar los grupos del Mundial 2026, un torneo que promete ser el más ...
El último grito tecnológico para el sector empresarial: Yango Rides se lanza a Santa Cruz con su servicio corporativo, Yango Viajes Para Emp...
Mercedes-Benz brilla con fuerza en su showroom capitalino, ofreciendo una experiencia única para cerrar el año con descuentos exclusivos y c...
La tradicional cadena de supermercados Fidalga se lanza a la defensa del fin de año con una propuesta navideña que busca conquistar a todas ...
PIL Bolivia, el eterno acompañante de las familias bolivianas en sus momentos más cotidianos, ha decidido renovar su imagen y presentar un n...
La crisis climática golpea duro a Samaipata, y Cervecería Boliviana Nacional (CBN) se une al esfuerzo de ayuda, con una donación que va más ...
No hay comentarios todavía. ¡Sé el primero en comentar!
Subscribe to get the latest news from BizNews.
Cochabamba, Bolivia
+591 000 00000
horusNews@gmail.com
© HorusNews. All Rights Reserved 2025.
Developed by: All_Analytica
