Enfoque Informativo
Esta es la historia de un experimento que no salió como se esperaba. Como parte de las pruebas realizadas por una farmacéutica, una inteligencia artificial especializada en el desarrollo de medicinas sugirió las fórmulas de más de 40 mil armas químicas letales en solo 6 horas. Esto alertó aún más a una comunidad que ya se preocupaba sobre los riesgos de la participación de las IA en la creación de instrumentos biológicos y químicos.
Inteligencia artificial genera más de 40 mil armas químicas en solo 6 horas
¿Es posible que las inteligencias artificiales puedan ser utilizadas para crear armas de destrucción masiva? Esa fue una pregunta que investigadores de Collaborations Pharmaceuticals despertaron después de presentar los resultados un estudio reciente. En él pusieron a prueba los alcances de una IA enfocada en generar fórmulas farmacéuticas.
Según se lee en su análisis, publicado en la revista Nature Machine Intelligence, pidieron al software detectar moléculas químicas nocivas –incluyendo la tóxica VX– y formular nuevos compuestos a través de su sistema de puntuación. Después de solo seis horas, la inteligencia artificial había creado más de 40 mil combinaciones que podrían convertirse en armas químicas potencialmente letales.
Entre ellas se encontraron derivaciones del VX, identificado como el agente nervioso más peligroso que existe, y moléculas exactas que ya habían sido utilizadas en diversas armas biológicas. Curiosamente, estas no habían sido procesadas o siquiera analizadas por la invención tecnológica.
Los peligros de las IA con accesos a biológicos peligrosos
El resultado del experimento no solo confirmó uno de los peores miedos de la comunidad científica, también causó preocupación por lo fácil que podría resultar generar armas químicas si esta inteligencia artificial cae en las manos equivocadas.
En palabras de Fabio Urbina, experto en inteligencia artificial consultado por The Verge, los resultados logrados por la IA de Collaborations Pharmaceuticals podrían obtenerse con software gratuito de código abierto. Lo mismo sucede con las bases de toxicidad de las moléculas, abiertas a todo público.
“No quiero sonar sensacionalista, pero es bastante fácil para alguien replicar lo que hicimos“, dijo Urbina. En un momento en el que las IA son cada vez más recurrentes en la ciencia, la duda de los expertos queda en el aire. ¿Será posible que en nuestras manos esté nuestro próximo gran enemigo? Solo el tiempo lo dirá.
