En el artículo anterior hablábamos sobre el (mal) uso de la Inteligencia Artificial Generativa, esa que, basándose en el Aprendizaje Profundo, es capaz de crear imágenes a partir de otras miles. En esa ocasión, una oscura agencia de comunicación había lanzado un hoax (engaño) a los medios usando imágenes generadas por IA para dar credibilidad a una noticia falsa.
Hoy volvemos a hablar de la cacareada Inteligencia Artificial Generativa, pero esta vez para ver un uso positivo, de los muchos que tiene, esta herramienta. Se trata del uso que le da, para descubrir medicinas contra las enfermedades raras, la compañía de investigación Collaborations Pharmaceuticals.
Una herramienta artificial para hacer el trabajo de cientos de investigadores humanos.
A partir de la creación de modelos de aprendizaje automático usando bases de datos de software de código abierto, la empresa había creado MegaSyn, una plataforma de inteligencia artificial (IA). Como resultado, pudieron diseñar moléculas con propiedades particulares. El objetivo era usar una herramienta entrenada para que hiciera el trabajo de cientos de químicos humanos.
MegaSyn ayudaba a los investigadores, de esta manera, a buscar medicamentos para enfermedades raras y olvidadas por las grandes farmacéuticas, que no las consideran rentables. Un loable objetivo.
Todo poder conlleva una responsabilidad.
Sin embargo sus creadores descubrieron que la, extremadamente potente y útil, herramienta podría tener un uso malicioso si llegaba a malas manos. Al tratar de generar un nuevo fármaco, es fundamental el asegurarse de que no éste sea tóxico. Pero, ¿Y si se cambiaba ese filtro por el valor contrario?. De ‘no tóxico’, pasarlo a ‘tóxico’.
Hicieron la prueba para ver qué pasaba.
Arma de destrucción masiva a la carta.
Entre la lista de decenas de miles de moléculas que devolvió el sistema estaba la conocida «VX«. MegaSyn había diseñado por su cuenta un, ya conocido y aterrador, agente nervioso prohibido por la ONU y clasificado como arma de destrucción masiva. El VX es una de las sustancias químicas más letales jamás creadas: el contacto de una gota con la piel humana es capaz de matar a una persona. De hecho, se cree que es el agente nervioso que, según EE.UU., Pyongyang usó para asesinar a Kim Jong-nam, el hermanastro del líder de Corea del Norte.
A pesar de todo, plataformas como MegaSyn son tremendamente beneficiosas para la mejora de la sociedad y su prosperidad. Pero eso no tiene que ser una excusa para no tener una estrategia que consista en prevenir los problemas que toda herramienta trae consigo, educando a la gente sobre los mismos.
Llega la IA pública.
Hay que mencionar que este estudio hecho desde la propia empresa se llevó a cabo hace más de un año, en este tiempo la IA generativa se ha convertido en la comidilla de todos, con la aparición de ChatGPT y DALL-E.
Aunque poder identificar nuevas moléculas está muy lejos de significar ser capaz de producir un arma química, lo cierto es que si hasta estas aplicaciones de chat pueden diseñar moléculas, acceder a esta información es hoy en día mucho más fácil que hace un año y medio.
En el lado positivo. El mayor y sencillo uso de estas herramientas, nos permite anticiparnos a los peligros para defendernos. Podremos averiguar cuáles son los productos químicos que podrían usarse para hacer nuevas moléculas tóxicas, y así contrarrestarlos.
Un desafío que nos afecta a todos.
Lo que está claro es que la mayor exposición pública de las herramientas de IA traerá consigo nuevos desafíos. Dependerá de todos nosotros estar preparados para aceptar, vigilar y usar adecuadamente las mismas para que se conviertan en herramientas para el progreso y no para la destrucción. Desgraciadamente, la historia de la humanidad está plagada de ejemplos en los que este binomio parece indisoluble. La energía/bomba atómica. Por ejemplo.
Este artículo utiliza información proveniente de este artículo de la BBC Mundo. Imagen de portada: Acuarela de Alan Turing generada mediante inteligencia artificial, considerado el padre de la misma, a través de Midjourney AI.
Descubre más desde Situación Crítica, el Blog
Suscríbete y recibe las últimas entradas en tu correo electrónico.