Inteligencia artificial

Una exploración filosófica sobre el futuro de la mente y la conciencia

Susan Schneider, Ana Isabel Sánchez Díez

• Editorial: K?an Libros
• Año: 2021
• ISBN de la versión impresa: 9788418223280
• ISBN del libro electrónico: 9788418223297
• Categoría: Ciencias biológicas
• Categoría: Inteligencia artificial (IA) y semántica

Aclamada por la prensa como «una guía inteligente y sólida en un terreno ético resbaladizo», este libro es una exploración filosófica de la inteligencia artificial y el futuro de la mente. Una lectura profunda y entretenida.

Año 2045. Estás en un centro de programación mental decidiendo qué mejora quieres incorporar a tu cerebro para ampliar tu memoria, aumentar tus habilidades musicales o matemáticas. O quizá ya te estás planteando volcar tu mente en un medio completamente artificial.

Un escenario como este no es ciencia ficción, sino una posibilidad cada día más tangible: estamos rodeados de inteligencias artificiales, desde algoritmos hasta asistentes virtuales que gestionan nuestros dispositivos. Y los próximos objetivos son el desarrollo de sistemas artificiales conscientes y la integración de componentes electrónicos en un cerebro biológico.

En algunos, estas innovaciones generan gran optimismo, en otros, grandes temores. La filósofa y científica Susan Schneider se centra en los significados profundos y las implicaciones éticas de las nuevas tecnologías, y en la forma en que estas pueden cambiar radicalmente nuestra definición de humano.

¿Es realmente posible crear inteligencia artificial consciente? ¿Cómo podremos reconocerla? Si reemplazamos nuestro cerebro pieza por pieza con chips, ¿podemos todavía decir que somos nosotros mismos? ¿Es la mente solo un programa? Este libro analiza hipótesis y escenarios de futuro para empujarnos a cuestionar la naturaleza profunda de nuestra identidad.

La crítica ha dicho...

«Un libro repleto de material que ilumina nuevas formas de pensar sobre un tema candente. Un recorrido filosófico con implicaciones en el mundo real. Aprender sobre la inteligencia artificial nos permite comprender mejor la mente humana, y este libro, aunque desafiante, ofrece una introducción accesible a ambos temas.» David DiSalvo, Forbes

«Un diálogo exigente entre filosofía y ciencia.» Andrew Robinson, Nature

«Este fascinante libro es a la vez entretenido y profundo: presenta una perspectiva humana sobre la IA, un tema que ha atraído demasiado sensacionalismo ingenuo y alarmismo. Los clásicos problemas filosóficos del yo, la mente y la conciencia —a través de los avances transformadores de la IA— se volverán cruciales para la ética práctica y las elecciones individuales. Schneider ofrece ideas sofisticadas sobre lo que quizás sea el desafío número uno que enfrenta la humanidad a largo plazo.» Martin Rees, astrofísico y escritor

«¿Es posible la conciencia artificial? ¿Podrías convertirte en una IA? ¿Seguirías siendo tú? Schneider presenta un alegato vívido y convincente de que el futuro de la humanidad puede depender de las respuestas a estas preguntas filosóficas. Este libro está repleto de herramientas útiles para pensar la mente y su futuro.» David J. Chalmers, autor de The Conscious Mind

«Una guía inteligente y sólida en un terreno ético resbaladizo. Su exposición del problema de la conciencia está entrelazada con ejemplos útiles.» Aziz Huq, Washington Post

«Leer este libro es profundamente satisfactorio: una llamada a la humildad mientras exploramos cuestiones de la IA y la naturaleza de la conciencia. Una mezcla estimulante y accesible de especulación y provocación neuroética.» John Banja, AJOB Neuroscience

«Accesible y sugerente... Una contribución significativa a algunas de las cuestiones éticas que a menudo se pasan por alto en torno al desarrollo continuo de la inteligencia artificial.» Ken Daley, The Philosopher's Magazine

1

La era de la inteligencia artificial

Es posible que no pienses en la IA a diario, pero te rodea por todas partes. Está ahí cuando haces una búsqueda en Google. Está ahí cuando vence a los ganadores mundiales de concursos de cultura general como Jeopardy!, y de juegos de estrategia como el Go. Y mejora con cada minuto que pasa. Pero todavía no tenemos una IA de uso general, que sea capaz de mantener una conversación inteligente por sí misma, de integrar ideas sobre diversos temas e incluso, tal vez, de aventajar a los humanos en cuanto al pensamiento. Este tipo de IA es el que se representa en películas como Her y Ex_Machina, y puede que te suene a cosa de ciencia ficción.

Sin embargo, sospecho que ese tipo de IA ya no está tan lejos. El desarrollo de dicha tecnología está impulsado por las fuerzas del mercado y por la industria militar: hoy en día se están invirtiendo miles de millones de dólares en la construcción de asistentes domésticos inteligentes, de supersoldados robóticos y de superordenadores que imitan el funcionamiento del cerebro humano. Por ejemplo, el gobierno japonés ha lanzado una iniciativa para que los androides cuiden a los ancianos de la nación, pues anticipan que faltará mano de obra.

Dado el rapidísimo ritmo actual de su desarrollo, la IA podría avanzar hasta convertirse en inteligencia artificial general (IAG) en el transcurso de las próximas décadas. La IAG es una inteligencia que, como la humana, puede combinar conocimientos de diferentes áreas temáticas y demostrar flexibilidad y sentido común. De hecho, ya está previsto que la IA deje obsoletas muchas profesiones humanas a lo largo de las próximas décadas. De acuerdo con un estudio reciente, por ejemplo, los investigadores más citados del campo de la IA esperan que esta «ejerza la mayor parte de las profesiones humanas al menos tan bien como un humano medio», con un 50 % de probabilidades antes de 2050 y con un 90 % de probabilidades antes de 2070.¹

He hablado de que muchos observadores han avisado ya del ascenso de las IA superinteligentes: inteligencias sintéticas que aventajan a los humanos más listos en todos y cada uno de los campos, entre ellos los del sentido común, la lógica y las habilidades sociales. La superinteligencia podría destruirnos, insisten. Por el contrario, Ray Kurzweil, un futurista que en este momento es director de ingeniería en Google, describe una utopía tecnológica que lleva aparejado el final del envejecimiento, la enfermedad, la pobreza y la falta de recursos. Kurzweil incluso ha comentado las ventajas potenciales de formar amistades con sistemas de IA personalizados, como el programa Samantha en la película Her.

La singularidad

Kurzweil y otros transhumanistas defienden que nos estamos acercando a toda velocidad a la «singularidad tecnológica», un punto en el que la IA sobrepasa con creces la inteligencia humana y es capaz de resolver problemas que nosotros no hemos podido resolver antes, con consecuencias impredecibles para la civilización y la naturaleza humana.

La idea de la singularidad procede de las matemáticas y la física, y en especial del concepto de agujero negro. Los agujeros negros son objetos «singulares» en el espacio y en el tiempo, lugares donde las leyes normales de la física no funcionan. Por analogía, se prevé que la singularidad tecnológica provoque un crecimiento tecnológico desmesurado y cambios ingentes en la civilización. Las reglas según las cuales la humanidad ha operado durante miles de años dejarán de ser válidas de golpe. Imposible saber qué podría ocurrir.

Puede que las innovaciones tecnológicas no sean tan rápidas como para desembocar en una singularidad absoluta en la que el mundo cambie casi de la noche a la mañana. Pero esto no debería distraernos del argumento principal: hemos de aceptar la posibilidad de que, a medida que vayamos adentrándonos en el siglo XXI, los humanos tal vez no continúen siendo los seres más inteligentes del planeta por mucho más tiempo. Las inteligencias más extraordinarias del planeta serán sintéticas.

De hecho, creo que ya vemos algunas razones por las que la inteligencia sintética terminará superándonos. Ahora mismo los microchips son un medio de hacer cálculos más rápido que las neuronas. Mientras escribo este capítulo, el ordenador más veloz del mundo es el superordenador Summit, del Laboratorio Oak Ridge, en Tennessee. La velocidad de Summit es de doscientos petaflops, es decir, de doscientos mil billones de cálculos por segundo. Toda la gente de la Tierra tendría que hacer un cálculo por segundo durante todos los días a lo largo de trescientos cinco días para conseguir lo que el superordenador Summit es capaz de hacer en un abrir y cerrar de ojos.²

Por supuesto, la velocidad no lo es todo. Si no establecemos los cálculos aritméticos como métrica, tu cerebro es mucho más potente que el Summit desde el punto de vista computacional. Es producto de tres mil ochocientos millones de años de evolución (la edad aproximada de la vida en nuestro planeta) y ha dedicado sus capacidades al reconocimiento de patrones, el aprendizaje rápido y otros desafíos prácticos de la supervivencia. Puede que las neuronas individuales sean lentas, pero su organización en paralelo es tan tremenda que todavía deja a los sistemas de IA modernos mordiendo el polvo. No obstante, la IA tiene unas posibilidades de mejora casi ilimitadas. Tal vez no falte mucho para que llegue a construirse un superordenador que iguale o incluso supere la inteligencia del cerebro humano mediante la ingeniería inversa del cerebro y la mejora de sus algoritmos o mediante la creación de algoritmos nuevos que ni siquiera estén basados en el funcionamiento del cerebro.

Además, una IA puede descargarse en múltiples ubicaciones al mismo tiempo, copiarse y modificarse con facilidad, y sobrevivir en condiciones en las que la vida biológica experimenta dificultades, como por ejemplo en los viajes interestelares. Nuestro cerebro, por muy potente que sea, está limitado por el volumen craneal y el metabolismo; en acusado contraste, la IA podría extender su alcance por todo internet e incluso establecer un «computronio» galáctico (un superordenador inmenso que se sirve de toda la materia que contiene una galaxia para llevar a cabo sus cálculos). A la larga, es sencillamente imposible competir. La IA será mucho más capaz y duradera que nosotros.

La falacia de Los Supersónicos

Nada de todo esto significa necesariamente que los humanos vayamos a perder el control de la IA y a condenarnos a la extinción, como dicen algunos. Si mejoramos nuestra inteligencia con tecnologías de IA, quizá podamos seguirle el ritmo. Recuerda, la IA no solo hará mejores a los robots y a los superordenadores. En la película Star Wars y en los dibujos animados Los Supersónicos, los humanos están rodeados de IA sofisticadas, mientras que ellos no se han mejorado de ningún modo. El historiador Michael Bess se ha referido a esto como «la falacia de Los Supersónicos».³ En realidad, la IA no transformará únicamente el mundo. Nos transformará también a nosotros. El lazo neuronal, el hipocampo artificial, los chips cerebrales para tratar los trastornos del estado de ánimo... Estas son solo algunas de las tecnologías capaces de alterar la mente que ya se están desarrollando. Así pues, el Centro para el Diseño de la Mente no es algo tan disparatado. Al contrario, es una extrapolación plausible de las tendencias tecnológicas actuales.

El cerebro humano se interpreta cada vez más como algo que puede piratearse, algo parecido a un ordenador. Sin salir de Estados Unidos, se encuentran ya gran cantidad de proyectos que pretenden desarrollar tecnologías de implantes cerebrales para tratar las enfermedades mentales, las discapacidades de base motora, las apoplejías, la demencia, el autismo y más.⁴ Los tratamientos médicos de hoy darán paso, sin lugar a dudas, a las mejoras de mañana. A fin de cuentas, la gente ansía ser más lista, más eficaz o simplemente tener una capacidad mayor de disfrutar el mundo. Con este fin, las empresas de IA como Google, Neuralink y Kernel están desarrollando métodos para fusionar a los humanos con las máquinas. A lo largo de las próximas décadas, podrías convertirte en un cíborg.

Transhumanismo

La investigación es nueva, pero vale la pena subrayar que las ideas básicas llevan mucho más tiempo entre nosotros bajo la forma de un movimiento filosófico y cultural conocido como «transhumanismo». Julian Huxley acuñó este término en 1957, cuando escribió que, en el futuro cercano, «la especie humana estará en camino de un nuevo género de existencia, tan diferente del nuestro como lo es el nuestro del género de vida del hombre de Pekín».⁵

El transhumanismo sostiene que en la actualidad la especie humana se encuentra en una fase comparativamente temprana y que las tecnologías en desarrollo alterarán su evolución. Los humanos futuros serán bastante distintos a su encarnación de hoy en día, tanto en los aspectos físicos como en los mentales, y de hecho, se parecerán a ciertas personas representadas en las historias de ciencia ficción. Poseerán una inteligencia extremadamente avanzada, serán casi inmortales, mantendrán amistades profundas con criaturas de IA y tendrán características corporales elegidas. Los transhumanistas comparten la creencia de que ese resultado es muy deseable no solo para el desarrollo personal de cada uno, sino también para el desarrollo de nuestra especie como conjunto. (Para que el lector se familiarice un poco más con el transhumanismo, he incluido la «Declaración transhumanista» en el Apéndice.)

A pesar de su dejo a ciencia ficción, muchos de los desarrollos tecnológicos que el transhumanismo describe parecen bastante plausibles; de hecho, las etapas iniciales de esta alteración radical bien podrían encontrarse en ciertos desarrollos tecnológicos que o ya están aquí (aunque no disponibles para todo el público) o, según aceptan muchos observadores de los campos científicos relevantes, están en camino.⁶ Por ejemplo, el Future of Humanity Institute (Instituto para el Futuro de la Humanidad) de la Universidad de Oxford — un importante grupo transhumanista— publicó un informe sobre los requisitos tecnológicos para cargar una mente en una máquina.⁷ Una agencia del Departamento de Defensa de Estados Unidos ha fundado un programa, el Synapse, que está intentando desarrollar un ordenador que se parezca al cerebro tanto en la forma como en la función.⁸ Ray Kurzweil incluso ha hablado de las potenciales ventajas de formar amistades, al estilo Her, con sistemas de IA personalizados.⁹ A nuestro alrededor, los investigadores se están esforzando por transformar la ciencia ficción en ciencia fáctica.

Puede que te sorprenda descubrir que me considero transhumanista, pero así es. Conocí la existencia del transhumanismo mientras estudiaba en la Universidad de California, en Berkeley, cuando me uní a los extropianos, un grupo transhumanista temprano. Tras leer con gran atención la colección de libros de ciencia ficción de mi novio y la lista de correo electrónico de los extropianos, la visión transhumanista de una tecnopía en la Tierra me cautivó. Sigo conservando la esperanza de que las tecnologías emergentes nos ofrezcan una prolongación extrema de la vida, contribuyan a acabar con la escasez de recursos y con la enfermedad e incluso mejoren nuestra vida mental, en caso de que así lo deseemos.

Unas cuantas palabras de advertencia

El reto es cómo llegar desde aquí hasta ahí, en medio de la incertidumbre extrema. Ningún libro escrito hoy podría predecir de manera exacta los contornos del espacio del diseño mental, y puede que los enigmas filosóficos subyacentes no disminuyan a medida que nuestros conocimientos científicos y habilidades tecnológicas aumenten.

Merece la pena recordar dos aspectos en los que el futuro es opaco. En primer lugar, están los «conocidos desconocidos». No podemos estar seguros de cuándo se generalizará el uso de la computación cuántica, por ejemplo. No podemos saber si las tecnologías basadas en la IA se regularán, ni cómo, ni si las medidas de seguridad existentes serán eficaces o no. Tampoco hay respuestas sencillas y exentas de polémica para las preguntas filosóficas que debatiremos en este libro, creo. Pero además están los «desconocidos desconocidos»: acontecimientos futuros, tales como cambios políticos, innovaciones tecnológicas o avances científicos que nos tomen totalmente por sorpresa.

En los siguientes capítulos nos centramos en uno de los grandes conocidos desconocidos: el enigma de la experiencia consciente. Evaluaremos cómo surge este enigma en el caso humano y luego nos preguntaremos: ¿cómo podemos siquiera reconocer la conciencia en seres que tal vez sean enormemente distintos de nosotros a nivel intelectual y que puede que incluso estén hechos de sustratos diferentes? Un buen lugar para empezar es, sencillamente, comprender la profundidad del problema.

2

El problema de la conciencia de la inteligencia artificial

Piensa en cómo es ser un ser consciente. Cada segundo que pasas despierto, y siempre que sueñas, sientes algo al ser tú. Cuando oyes tu obra musical favorita o captas el olor de tu café matutino, tienes una experiencia consciente. Aunque decir que las IA actuales son conscientes puede parecer una exageración, a medida que vayan haciéndose más sofisticadas, ¿podrían llegar a sentir algo al ser ellas? ¿Las inteligencias sintéticas podrían tener experiencias sensoriales o sentir emociones como la curiosidad ardiente o las punzadas de aflicción, o incluso tener experiencias que sean completamente distintas a las nuestras? Llamaremos a esto «el problema de la conciencia de la IA». Da igual lo impresionantes que puedan resultar ser las IA del futuro: si las máquinas no pueden ser conscientes, carecerán de vida mental interior, aunque lleguen a exhibir una inteligencia superior.

En el contexto de la vida biológica, la inteligencia y la conciencia parecen ir de la mano. Las inteligencias biológicas sofisticadas suelen tener experiencias interiores complejas y con matices. Pero ¿es esta correlación también aplicable a la inteligencia no biológica? Muchos sospechan que sí. Por ejemplo, los transhumanistas como Ray Kurzweil tienden a defender que, al igual que la conciencia humana es más rica que la de un ratón, también la conciencia humana no mejorada palidecería en comparación con la vida experiencial de una IA superinteligente.¹ Pero, como veremos, esta línea de razonamiento es prematura. Puede que no llegue a haber androides especiales que dispongan de la chispa de la conciencia en su mente maquinal, como Dolores en Westworld o Rachael en Blade Runner. Aun en el caso de que la IA nos aventaje a nivel intelectual, es posible que nosotros sigamos destacando en una dimensión crucial: sentimos algo al ser nosotros.

Comencemos sencillamente por apreciar lo desconcertante que es la conciencia, incluso en el caso humano.

La conciencia de la IA y el problema dif...

Índice

• Cubierta
• Portada
• Dedicatoria
• Introducción: Una visita al Centro para el Diseño de la Mente
• 1. La era de la inteligencia artificial
• 2. El problema de la conciencia de la inteligencia artificial
• 3. Ingeniería de la conciencia
• 4. Cómo cazar a un zombi de la IA: someter a las máquinas a pruebas de conciencia
• 5. ¿Podrías fusionarte con una IA?
• 6. Hacerse un mindscan
• 7. Un universo de singularidades
• 8. ¿Es tu mente un programa de software?
• Conclusión: La vida más allá de la muerte del cerebro
• Apéndice
• Agradecimientos
• Notas
• Bibliografía
• Índice analítico
• Sobre este libro
• Sobre la autora
• Créditos
• Otros títulos de la editorial