Las teorías distópicas sobre cómo el avance de la IA podría representar una amenaza existencial para la raza humana están circulando por muchos sitios de internet. Algunos también hablan de su potencial para crear armas biológicas.
Incluso el Machine Intelligence Research Institute (MIRI) defiende que construir una IA más lista que nosotros equivaldría a firmar la extinción de la especie.
Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.
También advierten del peligro real de que esta tecnología pueda automodificarse y automejorarse como si tuviera una mente propia.
Por el contrario, hay quien afirma que estas opiniones extremas son infundadas, y no tienen nada que ver con la tecnología de inteligencia artificial.
En cualquier caso, a día de hoy estos modelos no son la máquina de inteligencia artificial asesina de la película de Stanley Kubrick 2001: Una odisea del espacio.
La villanía de HAL y sus tendencias homicidas todavía continúan siendo ciencia ficción.
Nosotros no somos expertos en el tema; pero pensamos que la IA (de momento) no destruirá la civilización humana.
A menos que algún grupo de gilipollas decida permitirle controlar infraestructura crítica, como por ejemplo centrales nucleares, redes eléctricas o sistemas de defensa militar, de forma autónoma sin supervisión humana.
En lugar de centrarnos en los riesgos existenciales, deberíamos preocuparnos por otras cosas más tangibles: su capacidad para generar imágenes de mujeres desnudas no consensuadas, la desinformación mediante algoritmos de IA o su uso para amplificar las estafas y los ciberataques.
En cualquier caso, la sociedad tiene una larga tradición de ver algunos avances tecnológicos como posibles amenazas (el fuego, la electricidad, las vacunas, la aviación, Internet, etc.) que después se han convertido en herramientas de uso cotidiano.
Hay que recordar que los años noventa y principios del 2000 estaban llenos de personajes que argumentaban que el buscador de Google acabaría por mermar las habilidades cognitivas de la raza humana.
Lo que sabemos
La inteligencia artificial es una tecnología que, mediante el uso de algoritmos y software, busca imitar la inteligencia humana. Para lograr esto, utiliza técnicas de aprendizaje automático y procesamiento del lenguaje natural para analizar la información.
No tiene pensamientos propios. De hecho, ni siquiera entiende el lenguaje humano.
En este sentido, antes de que pueda procesar la información, primero debe convertir las palabras en números.
Las limitaciones de los LLM han sido bien documentadas por Gary Marcus y muchos otros investigadores.
Marcus no cree que la inteligencia artificial aniquile a la humanidad, pero durante mucho tiempo ha hecho campaña por una mayor responsabilidad por parte de los desarrolladores y ahora está pidiendo alguna forma de control legal.
Por lo tanto, a día de hoy la inteligencia artificial no causará el apocalipsis.
En todo caso, los humanos ya nos apañamos bastante bien para putearnos entre nosotros.
Basta con echar un vistazo a la prensa diaria y a las hemerotecas.
En este sentido, la amenaza más grave a la que nos enfrentamos no es la inteligencia artificial en sí misma.
Es el uso malintencionado de esta tecnología por parte del Homo sapiens.
Infracciones de la propiedad intelectual
Hay quien dice que incluso algunos modelos fomentan el plagio o se pasan los derechos de propiedad intelectual por el forro.
Esto es lo que dice la UE.
Los proveedores de IA de propósito general (IAPG) deben adoptar una política de cumplimiento en materia de derechos de autor y publicar un resumen de los datos de entrenamiento conforme al art. 53(1)(c)-(d) de la Ley de IA de la UE, con multas de hasta el 3% de la facturación mundial anual o 15 millones de euros, lo que sea mayor, conforme al art. 101.
Pero más allá de la legalidad, existe la cuestión ética de si el uso del trabajo de alguien sin su consentimiento es correcto.
También es bastante buena en otra cosa: recopilar y manejar información de manera extremadamente matizada
Recopila (más bien raspa) información de varias fuentes como redes sociales, dispositivos móviles, sensores de IoT, interacciones en línea, fuentes abiertas, publicaciones científicas, páginas web, etc.
¿Algunos de estos datos podrían servir para identificar, contactar o localizar a una persona en concreto? Seguramente sí.
También se está utilizando para reconocimiento facial (con más errores que aciertos) y estudios de solvencia crediticia.
Por otro lado, muchos insensatos consultan sus síntomas con los chatbots en busca de un diagnóstico.
Debido a que estos modelos se basan en correlaciones estadísticas, pueden producir falsos diagnósticos, retrasando la atención urgente.
Esto último es extremadamente peligroso para la salud, tanto física como mental.
La mala interpretación del contexto o los síntomas ambiguos resaltan por qué la supervisión humana es esencial: lo que parece un simple resfriado podría derivar en una neumonía.
Por otro lado, las conversaciones con chatbots pueden almacenarse en servidores en la nube o compartirse con proveedores externos.
Sin un buen cifrado, pueden acabar exponiendo información sobre la salud de una persona.
Su uso para el triaje en los hospitales también tiene sus riesgos.
El chatbot puede fallar cuando los algoritmos entrenados en conjuntos de datos incompletos o sesgados malinterpretan los síntomas.
Por ejemplo, podría confundir un accidente cerebrovascular con ansiedad o estrés y dejar a una persona en la sala de espera más tiempo del recomendable.
Conclusión
La inteligencia artificial todavía no ha llegado a los niveles de
Pero ChatGPT, Copilot, Claude, Grok y compañía se pueden utilizar para cualquier cosa que queramos: crear listas de la compra, ponernos a dieta, organizar nuestro calendario, redactar correos electrónicos o escribir código.
Pueden llegar a imitar a un asistente personal, un psicólogo, un maestro, un confidente, una pareja virtual o cualquier otra cosa que les pidamos.
Millones de personas de todo el mundo ya están compartiendo abiertamente sus ideas, pensamientos e incluso sus secretos más íntimos con los chatbots.
Incluso cosas que no les contarían a sus amigos, familiares y parejas.
Por lo tanto, en vez de empezar a construir un refugio nuclear, mantengámonos informados, permanezcamos vigilantes y seamos extremadamente cautelosos con lo que compartimos con estas herramientas.
Y sobre todo, no permitamos que la inteligencia artificial asesine nuestro escepticismo y nuestro pensamiento crítico.
