![](\"https:\/\/www.memri.org\/sites\/default\/files\/2023\/05\/mdb4811.PNG\")
<\/p>\nGrupos neonazis, supremacistas blancos y antigubernamentales (extremistas violentos por motivos raciales\/\u00e9tnicos, tambi\u00e9n conocidos como REMVE) est\u00e1n discutiendo y publicando sobre el uso de la IA en las principales plataformas de redes sociales que prefieren. En privado y abiertamente, est\u00e1n hablando, probando y usando la IA, adem\u00e1s de desarrollar sus propias versiones y reclutar ingenieros y equipos para proyectos especiales, incluso para irrumpir en bancos.<\/p>\n
<\/p>\n
Los ejemplos m\u00e1s preocupantes encontrados por el equipo de investigaci\u00f3n del Monitor de Amenazas de Terrorismo Dom\u00e9stico (DTTM, por sus siglas en ingl\u00e9s) de MEMRI en su trabajo de estudio de este tema involucran a extremistas que en realidad discuten el uso de la IA para planificar ataques terroristas, incluida la fabricaci\u00f3n de armas de destrucci\u00f3n masiva. Un grupo aceleracionista que busca provocar el colapso total de la sociedad llev\u00f3 a cabo recientemente, en un grupo de Facebook, una conversaci\u00f3n sobre c\u00f3mo intentar enga\u00f1ar a un chatbot de IA para que proporcione detalles para fabricar gas mostaza y napalm. Estos y otros ejemplos se detallan en un nuevo informe de MEMRI DTTM que se publicar\u00e1 m\u00e1s adelante este mes.<\/p>\n
En el reporte tambi\u00e9n se encuentra el l\u00edder de una entidad designada como terrorista, un ex contratista del gobierno de Estados Unidos que con frecuencia llama a realizar ataques en Estados Unidos desde su refugio seguro en Rusia. Este ex contratista public\u00f3 sugerencias generadas por ChatGPT para participar en guerra de guerrillas y sobre infraestructura cr\u00edtica norteamericana que ser\u00eda m\u00e1s vulnerable a ataqued. ChatGPT dijo que la infraestructura estadounidense m\u00e1s vulnerable es \u00abla red el\u00e9ctrica\u00bb.<\/p>\n
Otros hablan sobre el uso de IA para planificar levantamientos armados con el objeto de derrocar al sistema gubernamental actual de Estados Unidos y comparten sus versiones creadas por IA de banderas, uniformes militares y dise\u00f1os gr\u00e1ficos de la Casa Blanca. Tambi\u00e9n discuten el uso de IA para el reclutamiento y para difundir su ideolog\u00eda y propaganda en l\u00ednea, incluso con videos que crean. Los videos falsos que muestran a Hitler pronunciando un discurso en ingl\u00e9s y a la actriz de Harry Potter Emma Watson leyendo en voz alta Mein Kampf de Hitler se han vuelto virales en sus plataformas.<\/p>\n
La investigaci\u00f3n de MEMRI ya encontr\u00f3 a terroristas yihadistas hablando sobre el uso de IA para desarrollar sistemas de armas, incluidos drones y coches bomba aut\u00f3nomos. Como escrib\u00ed en Newsweek en marzo, un usuario popular en un servidor Rocket.Chat operado por ISIS revel\u00f3 en diciembre de 2021 que le hab\u00eda pedido consejo a ChatGPT sobre c\u00f3mo apoyar al califato y comparti\u00f3 los resultados. A fines de marzo, los partidarios de ISIS discutieron el uso de ChatGPT para codificar y crear software para piratear y cifrar, y concluyeron que \u00ab2023 ser\u00e1 un a\u00f1o muy especial para los piratas inform\u00e1ticos, gracias a los chatbots y los programas de IA\u00bb.<\/p>\n
Ya en marzo de 2016, Microsoft lanz\u00f3 el chatbot de inteligencia artificial Tay, pero lo cerr\u00f3 dentro de las 24 horas despu\u00e9s de que fue manipulado para tuitear mensajes pro-Hitler. Sin embargo, siete a\u00f1os despu\u00e9s, el peligro que representa el uso de la IA por parte de neonazis y supremacistas blancos no ha hecho m\u00e1s que aumentar. En la aplicaci\u00f3n de chat Hello History, lanzada a principios de enero de 2023 y descargada m\u00e1s de 10.000 veces solo en Google Play, los usuarios pueden chatear con versiones simuladas de personajes hist\u00f3ricos, incluidos Adolf Hitler y el propagandista nazi Joseph Goebbels.<\/p>\n
A medida que avanza la tecnolog\u00eda de IA (las inversiones corporativas globales totales en IA alcanzaron casi $ 94 mil millones en 2021), muchas empresas involucradas en su desarrollo est\u00e1n despidiendo a sus especialistas en \u00e9tica, quienes examinan algoritmos para prevenir el tipo de extremismo en las plataformas que se citan en este art\u00edculo.<\/p>\n
La noticia de estos despidos se produce cuando m\u00e1s de 2.000 l\u00edderes tecnol\u00f3gicos e investigadores exigieron protocolos de seguridad y pidieron a la industria que \u00abdetuviera inmediatamente durante al menos seis meses\u00bb el entrenamiento de sistemas de IA cada vez m\u00e1s avanzados, argumentando \u00abriesgos profundos para la sociedad y la humanidad\u00bb. Para colmo, el 1 de mayo, el pionero de la inteligencia artificial y \u00abpadrino\u00bb Geoffrey Hinton dej\u00f3 Google, donde se hab\u00eda convertido en una de las voces m\u00e1s respetadas en el campo, para poder hablar libremente sobre los peligros de la IA.<\/p>\n
En respuesta a la reacci\u00f3n negativa en curso, Sam Altman, director ejecutivo del creador de ChatGPT, OpenAI, explic\u00f3 en una entrevista que se necesita \u00abtiempo\u00bb \u00abpara ver c\u00f3mo se usa [la tecnolog\u00eda]\u00bb, que \u00abla estamos monitoreando muy de cerca, y que \u00abpodemos retrotraerlo\u00bb y \u00abapagar cosas\u00bb. Las afirmaciones de Altman sirven a la industria de la IA.<\/p>\n
Sin embargo, en su testimonio de hoy ante la audiencia del subcomit\u00e9 del Senado sobre la supervisi\u00f3n de la IA, Altman enfatiz\u00f3 la necesidad de regulaci\u00f3n y dijo que la industria quiere trabajar con los gobiernos, pero no estaba claro c\u00f3mo suceder\u00eda exactamente. Antes de la audiencia, Altman se reuni\u00f3 en privado con legisladores clave luego del lanzamiento de ChatGPT en noviembre de 2022, y esta noche asistir\u00e1 a una cena con miembros del Congreso.<\/p>\n
El enfoque neonazi y supremacista blanco en la IA, aqu\u00ed en Estados Unidos y en todo el mundo, es una amenaza a la seguridad nacional que ni siquiera se menciona en las advertencias recientes sobre la IA. Si bien los extremistas esperan que la IA ayude a \u00abcausar estragos\u00bb, seg\u00fan una publicaci\u00f3n reciente en un chat aceleracionista, no se sabe si las agencias antiterroristas estadounidenses y occidentales han comenzado a abordar esta amenaza.<\/p>\n
El reconocimiento m\u00e1s cercano a la admisi\u00f3n del peligro se produjo en la primera semana de mayo, cuando el presidente Biden reuni\u00f3 a los l\u00edderes tecnol\u00f3gicos involucrados en la IA que advirtieron sobre el potencial \u00abenorme peligro\u00bb que representa, al tiempo que prometieron invertir millones en el avance de la investigaci\u00f3n al respecto.<\/p>\n
Anteriormente, en abril, la directora de la Agencia de Seguridad de Infraestructura y Ciberseguridad, Jen Easterly, advirti\u00f3, en un panel de discusi\u00f3n, sobre los peligros de esta tecnolog\u00eda y del acceso a ella: \u00abEstamos avanzando a toda velocidad de una manera que creo que no es el nivel correcto de responsabilidad, implementando capacidades de IA en producci\u00f3n, sin barreras legales, sin ninguna regulaci\u00f3n\u00bb. Y el senador Chris Murphy advirti\u00f3 recientemente sobre la IA: \u00abCometimos un error al confiar en la industria de la tecnolog\u00eda para que auto-controlara las redes sociales… Simplemente no puedo creer que estemos al borde de cometer el mismo error\u00bb.<\/p>\n
Queda por ver si la llamada para detener el desarrollo de la IA ha llegado a tiempo. Pero independientemente, esta industria privada no deber\u00eda operar sin la supervisi\u00f3n del gobierno. Est\u00e1 claro que la industria debe seguir los est\u00e1ndares y crear pautas para examinar problemas como este, movimientos que a\u00fan no se han hecho para el uso terrorista de las redes sociales. Si bien, seg\u00fan se informa, el Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda ha desarrollado marcos para la responsabilidad en el uso de la IA, nadie parece conocerlos.<\/p>\n
<\/p>\n
*Steven Stalinsky, Ph.D., es director ejecutivo de MEMRI.<\/p>\n","protected":false},"excerpt":{"rendered":"
Grupos neonazis, supremacistas blancos y antigubernamentales (extremistas violentos por motivos raciales\/\u00e9tnicos, tambi\u00e9n conocidos como REMVE) est\u00e1n discutiendo y publicando sobre el uso de la IA en las principales plataformas de redes sociales que prefieren. En privado y abiertamente, est\u00e1n hablando, probando y usando la IA, adem\u00e1s de desarrollar sus propias versiones y reclutar ingenieros y […]<\/p>\n","protected":false},"author":37,"featured_media":62596,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[32,2],"tags":[],"class_list":["post-62595","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-reportes-diarios","category-featured"],"_links":{"self":[{"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/posts\/62595","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/users\/37"}],"replies":[{"embeddable":true,"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/comments?post=62595"}],"version-history":[{"count":0,"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/posts\/62595\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/media\/62596"}],"wp:attachment":[{"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/media?parent=62595"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/categories?post=62595"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www2.memri.org\/espanol\/wp-json\/wp\/v2\/tags?post=62595"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}