La distopía utópica de la IA

Artículo Publicado en Medium el 19 de julio de 2024

Hace un par de meses me invitaron a participar en una charla sobre IA en la que compartí espacio con especialistas en IA en el ámbito de la empresa y la justicia. Desde una humilde perspectiva filosófica abordé la idea de por qué la IA parece producir miedo a algunas personas, y representa un futuro distópico que parece presente ya. Posteriormente, he estado leyendo y escuchando conferencias sobre el tema, lo que me lleva a compartir algunas reflexiones en este post.

Por una parte, parece que la IA da miedo -más allá de por el imaginario distópico que llevamos años consumiendo en la cultura pop- porque representa un reduccionismo de la complejidad de las emociones humanas a números y algoritmos. Si una persona, presuntamente dotada de conciencia, es capaz de cometer actos atroces, imaginar un robot sin conciencia humana nos aterra. La pregunta es, ¿somos capaces de compartir, enseñar y transmitir esta conciencia a la IA? Una de las preguntas que planteé aquella tarde fue la siguiente: ¿podemos comparar la IA con un niño, capaz de crecer, evolucionar y desarrollar su propio sentido de lo correcto o incorrecto? ¿O quizás más con un gatito, que puede llegar a aprender tus preferencias –por ejemplo, que no se suba al sofá– y a actuar, más o menos, conforme a ellas, pero nunca va a compartir contigo el valor de preservar el sofá en buen estado de limpieza e integridad?

La pregunta sobre si los robots pueden llegar a desarrollar conciencia es crucial. Tal y como me ha parecido entender que está planteado en la actualidad el desarrollo de la IA, sí podrían. Entonces, la reflexión comenzaría a desarrollarse por otros caminos: ¿someteríamos al robot como un ser capaz pero inferior, como un esclavo? ¿Lo temeríamos tal y como a Frankenstein le aterrorizó su Moderno Prometeo? ¿Le llegaríamos a atribuiríamos derechos como a seres racionales?

Actualmente, las legislaciones sobre la IA se centran en proteger a la persona, principalmente en la legislación europea. Esta es, sin duda, una legislación necesaria, pero, sin embargo, donde se hace el desarrollo más fuerte (en empresas privadas estadounidenses y chinas), solo existe una carrera por la IA, parecida a la carrera espacial, pero con consecuencias mucho más visibles e inmediatas para las personas. Sin embargo, es importante recordar que el desarrollo tecnológico de la IA no es público ni pertenece a ningún país — es decir, no sirve a los gobiernos, sirve únicamente a sus propios objetivos comerciales y de desarrollo. Al igual que Internet, no nos pertenece por derecho, aunque a veces queramos pensar e incluso sintamos que sí.

Por otra parte, sobre esta cuestión nos afecta la brecha digital que atañe a cuestiones de capacidad: al igual que los cohetes espaciales, muchos no entendemos el funcionamiento real de estas máquinas. No entendemos qué está haciendo la máquina por dentro, aunque la veamos volar. Y aquí quiero recordar las palabras de Arthur C. Clarke: cualquier tecnología suficientemente avanzada es indistinguible de la magia. La diferencia es que la civilización, desprovista de criterio y conocimiento, va a usar y usa las IA diariamente, lo sepa o no. La implementación de esta tecnología en nuestra cotidianidad (para la mitad del planeta que tiene acceso a internet y dispositivos digitales, tampoco olvidemos esto) es imparable, aumentando cada día más una brecha entre las personas conectadas y desconectadas, por una parte, y por otra, entre las que entienden y conocen el funcionamiento de lo que se hace y las que, aunque pudiéramos ver el funcionamiento, no llegaríamos a entenderlo en profundidad.

El desarrollo y la implementación de la IA están en manos de unas pocas personas que deciden y determinan cómo y dónde se utiliza (recientemente vimos cómo Instagram, plataforma privada, empezaba a informar — que no a pedir permiso — para entrenar a su IA con los datos de sus usuarios, cosa que ya venía haciendo desde años antes). Los dueños de los servicios que naturalizamos como públicos — dada la normalidad y rutina que nos representan — deciden qué y cómo se desarrolla la tecnología, sus servicios, sometiendo a la sociedad a una hegemonía tecnolibertaria aterradora que vive ajustándose — a su manera — a las normas. El legislador va detrás, a duras penas llegando al principio de la carrera cuando los gigantes tecnológicos ya le sacan cuatro vueltas y unos diecisiete desarrollos y medio que dejan sistemáticamente obsoleto al anterior. La reflexión filosófico-jurídica-social sobre la IA está en sus inicios, aunque el desarrollo no frena ni un instante. Un excesivo tecnooptimismo no nos salvará de cavar nuestra propia tumba, pero una estrategia de rechazo no impedirá que su desarrollo nos afecte, especialmente a las personas más vulnerables. Empresarialmente se vende como un milagro, la herramienta que nos hará más veloces, más eficaces, más máquina. La utopía de un mundo libre de cargas (porque ya lo harán todo los robots) resulta disonante. Los milagros no existen, pero la reflexión, las directrices éticas y la prudencia — cual virtud aristotélica— sí. A través de una reflexión multidisciplinar que abarque la ingeniería, lo jurídico, lo económico, lo social y lo filosófico, busquemos una ética firme que guíe el desarrollo para hacerlo justo.

Nota: Las imágenes de este post, tal y como la razón tecnopoética pide, están creadas por IA.