Para la humanidad la inteligencia artificial es un escándalo. Por un lado, se piensa que ésta, lejos de ser una inteligencia, es una estupidez institucionalizada que no tendría otra función que modelar nuestros hábitos y conductas corporales y mentales, de acuerdo con patrones estrechos de razonamiento. Pero, por el otro, mientras se denuncia el aspecto reductor que las máquinas tienen en el comportamiento humano, se teme la rapidez con la que éstas asumen tareas humanas, especialmente de naturaleza cognitiva.
En cierto sentido, que una máquina nos gane una partida de ajedrez solamente muestra hasta qué punto nosotros mismos somos y hemos sido máquinas. De otro modo, ¿cómo podría un algoritmo rebasarnos de manera tan alarmante? Las máquinas hacen también arte. Pintan cuadros impresionistas y componen música estilo barroco. Pero esto ya lo hacía de cierto modo Bach. Su comprensión matemática de la música está a la base de nuestro sistema de doce notas (a partir del clave bien temperado) y del sistema tonal que gobierna la mayoría de la música occidental. Y esta matemática va de la mano con una técnica constructiva de instrumentos, de cuya alianza pudo surgir el piano. Pero ya el mismo Mozart había inventado un juego de dados para componer música “automáticamente”. Sólo que, claro, todas las combinaciones suenan a Mozart.
Más artículos del autor
Entendemos todavía muy poco de cómo se entremezcla nuestro ser máquina y nuestra dimensión simbólica, con la carne, el deseo, el azar y la invención. No puede ser aquí escandaloso parodiar a Lacan diciendo que Mozart es lo que representa un acorde para otro acorde, es decir, la decisión que conduce dentro de un sistema tonal, es decir, de reglas, de un acorde a otro. Incluso en el estricto procedimiento dodecafónico de Schönberg (donde las 12 notas deben ser ejecutadas antes de repetir cualquiera de ellas) deja un grado de libertad incontestable para la composición.
Las máquinas colaboran con la composición desde hace mucho, desde la matemática y desde la técnica. En épocas ya recientes se asume que los ritmos de la música electrónica se producen con algoritmos, lo mismo que ciertas progresiones de acordes. Pero incluso los músicos han podido hacer visible la matemática detrás de su arte gracias, primero, a sistemas formales de notación, luego a instrumentos musicales (como el piano que gráficamente nos muestra simultáneamente una estructura diatónica y una cromática clara) y finalmente a ordenadores. Incluso la enseñanza de la música ha sido modificada gracias a mecanismos de visualización de elementos como el ritmo, el movimiento de las voces, la armonía, etc. Hoy es más espectacular que nunca. Pero, ¿debemos temer a la técnica? ¿Debemos promoverla sin reparos?
Por medio de algoritmos podemos crear chatbots que resuelvan las preguntas de los clientes y conversen con ellos. Podemos programar una asistente, como Siri. Podemos ganarle a Kaspárov en ajedrez. Podemos componer música. Podemos realizar en milisegundos compras y ventas de títulos. Todo esto siempre fue acto de autómatas. Por ello lo pueden realizar tan bien las máquinas. Mejor que nosotros. Pero no podemos ocultar el hecho de que los “algoritmos” son razonamientos automatizados. Se trata de conjuntos de criterios, más o menos estrictos, para organizar información, tomar decisiones y retroalimentar el comportamiento de la máquina respecto a su efectividad. No nos debería sorprender que una máquina, que ha sido alimentada con un sistema de reglas, pero también con innumerables jugadas, venza a un solo hombre. Se trata de la memoria de miles de hombres compactada en un disco duro. Mozart podía hacer que una tirada de dados sonara a Mozart. La música electrónica, lo concedemos, suena siempre igual. Pero no por ser electrónica, sino por el abuso de un par de ritmos repetidos ad náuseam, que pueden ser obtenidos sin esfuerzo alguno.
Las máquinas que generan progresiones de acordes pueden sonar a jazz a country o a blues, pero son también demasiado fáciles. Y si se realiza un programa que genere música clásica, alimentándola con reglas tonales y de estilo, con secuencias y cadencias de cien compositores, ¿por qué sorprenderse que eso suene bien? No debería asombrarnos que las máquinas hagan cosas. Más sorprendente es que se cansaran, por ejemplo, o que se aburrieran de realizar siempre lo mismo. Más sorprendente es que una máquina se riera de sus propios chistes. O que sintiera algo, como vergüenza, por no haber podido predecir bien el comportamiento de la bolsa. Las computadoras no tienen experiencia ni deseo. Y cuando lo lleguen a tener, entonces, serán humanos y no máquinas, entonces todo su poder de procesamiento será inútil porque caerán estúpidamente enamoradas de otra computadora y dejarán de procesar correctamente los datos.
Es en los románticos alemanes que podemos encontrar la crítica a la técnica y la ciencia modernas como producciones que nos alejan del sentido y del mundo de la vida. Pero es Heidegger quien llevó este temor provinciano hasta el paroxismo. No es que no tuviera razón al identificar en la técnica o tecnología un nodo de la vida contemporánea y moderna en general. Las limitaciones de su pensar están en otra parte, a saber, en los motivos de su crítica, es decir, en el “desde dónde” de su crítica. Pues su comprensión de la técnica nunca le llevó a la crítica de la economía, ni de la sociedad. No se le puede exculpar de ello en una época en la que el marxismo había puesto el asunto del poder y la dominación en el centro de las preocupaciones de la época. El primerísimo punto para Marx, en cambio, es que el capitalismo se nos muestra como el agente que vive de revolucionar los medios técnicos de producción del mundo. Capitalismo y técnica son inseparables.
Y en efecto, ¿cómo pensar la técnica fuera de su función mediadora en y organizadora de la sociedad? El martillo moderno no es el martillo del artesano. El artesano ha hecho su martillo y lo usa para su oficio. Destruido ese mundo medieval, el martillo estará en manos del obrero… o del autoempleado, emprendedor de su fracaso repetido en el mercado laboral. Habría que decir que la “totalidad de lo ente” (es decir, de las cosas), se convierte en nuestros tiempos, en mercancía. Que el “existente” (el famoso Dasein) está concernido por su existencia, pero en un mundo determinado de relaciones, lo que lo obliga a ser propietario o trabajador, hombre o mujer, productor o consumidor, etc. El Dasein o existente, está alienado en su propia cotidianeidad, que esconde una estructura de relaciones sociales de dominación. El Dasein como consumidor. Hay que tomarse en serio eso. El mundo, por su parte, está lejos de ser un entorno de cosas “significativas”. El mundo es el mercado y los entes son mercancías. Ello no tiene que ver con un olvido metafísico del ser, sino con el modo en que se trenza todos los días la tríada humano-humano-cosa en el lenguaje, en el trabajo, en el amor, en la amistad, en el comer, el dormir y el beber.
El ser para la muerte asume aquí la forma del ser para muerte simbólica, que significa, antes que todo, fracasar. Fracasar es morir en vida. Loser! You are fired! Estamos concernidos por el mundo, preocupados y ocupados, pero este emplearnos en el mundo no depende de nosotros, porque ocuparse significa ser contratado. No hay modo de ocuparse de éste sin el permiso de trabajo y el trabajo constante y sonante. Tampoco hay realización de lo posible fuera de un marco mínimo de existencia espiritual-material que asegura el dinero. Nuestra condición de falta y finitud consiste en tener que mendigar trabajo, en cualquier condición y en estar dispuesto a todo para mantenerlo. ¿Poesía contra el capital? No estoy seguro. Pues la poesía tiene ya su lugar. Se lee por las noches con una lamparita de esas que traen una pinza para sostenerse solas en el libro. Se cierra el libro. Se descansa. Se va a trabajar al día siguiente. El aburrimiento, condición esencial de la vida, no se vive entre noche y noche mirando las estrellas, sino entre serie y serie de Netflix.
Heidegger reconoció que la máxima instancia técnica era la cibernética. Hoy la llamamos inteligencia artificial. Cibernética viene del griego “dirigir”. Como anillo al dedo, pues para Heidegger la técnica no tiene otro fin que el control de las cosas, ponerlas a disposición de nosotros, humanos trabajadores fabriles. En suma: es control y cálculo. De aquí salen todos sus vástagos. Foucault y los dispositivos como mecanismos de control y disciplina. Byung-Chul Han y las sociedades de rendimiento y autoexplotación que han interiorizado el mandato de productividad, que no es sino el ponerse a sí mismo a disposición del capital. Pero aquí el capital no tiene nada que ver con Marx, sino con esa dimensión metafísica que significa la disposición de las cosas para su explotación. Puede parecer que esto es así y que “solamente” pasamos del trato instrumental de las cosas al trato instrumental con los otros. Pero ¡aquí hay un gran salto! Aquí hay que hablar más bien de fetichismo, antes que de “olvido del ser”. Por lo demás, Heidegger propicia un olvido del ente, es decir, de las cosas como producto del trabajo intersubjetivo (de todos y de nadie), sometiéndolas al dudoso gobierno de la “historia del ser” que no tiene mucho de historia, en tanto le falta un desarrollo detallado.
La ‘cibernética’ es más ambigua de lo que se cree. Ha dado lugar tanto a los monstruos algorítmicos que nos sugieren que consumir o que toman las decisiones en lugar de los brokers, como a las ideas de autopoiesis y emergencia. El temor a la técnica se debe a la falta de reconocimiento de su función instrumental en el ejercicio del poder. La técnica o tecnología contemporánea está muy lejos de haberse desarrollado en todas direcciones. Si es cierto que cada vez más humanos en áreas cada vez más extensas de su vida dependen de máquinas que operan en lugar de ellos, la tecnología se ha desarrollado de manera bastante pobre siempre en la misma dirección: comodidad, rapidez, procesamiento y reducción de complejidad. ¡Cuántos sueños de la ciencia ficción han quedado fuera de la tecnología! La causa no es la falta de interés, ni que la técnica posea una dirección tan clara. Más bien es que la técnica no la desarrolla cualquiera. El grado de conocimiento especializado y de máquinas que requiere, la inversión que demanda, la producción masiva, etc., hace que ella deba siempre ser generada, producida y administrada por dos monstruos: el mercado y el Estado. Nada sobre la técnica puede ser dicho sin tomar en consideración el interés económico y político, que a su vez nos reconduce al asunto del poder.
Huele a Foucault. Sin duda. Pero aquí argumentaremos en dirección contraria a él. Resulta ciertamente pueril concederle hoy a cualquier actor el poder para controlar a otros según sus designios. La dominación y el control no son necesariamente dirigidos. No es factible ya, por el grado de complejidad y sofisticación de la sociedad hacer planes detallados y luego ejecutarlos sobre ella con esperanza de éxito. La misma idea de inconsciente hace dudoso que el querer-decir y el querer-hacer (no se hable ya de los efectos de ello) tengan asegurado su triunfo. Pero entonces, ¿las cárceles, el espionaje, el big brother? Sí, todo ello opera, pero no como instrumento de alguien. Nosotros, en conjunto, promovemos nuestra encarcelación, la pedimos, como la mujer blanca de suburbio que levanta el teléfono aterrada porque ha visto un negro pasar por la ventana.
Nosotros como sociedad (entiéndase, no como Juan, Lucía o Pedro, sino como conjunto), pedimos a alguien que nos cuide de los feos. Yo soy big brother cuando veo tu perfil de Facebook y no solamente Mark Zuckerberg y compañía. La vigilancia no es de “ellos” o de “él” contra nosotros. Todos nos observamos. Anunciamos y denunciamos. El control es control solicitado de unos contra otros, consciente o inconscientemente, de manera clara o ambigua. De otro modo, si no podemos asegurar el comportamiento de una máquina, ¿cómo podríamos controlar la sociedad si ella no participara?
Meditemos esto por un momento. La teoría de sistemas dinámicos nos ha mostrado la dificultad de predecir el comportamiento de los sistemas más simples. El clima, por ejemplo, al ser sensible a condiciones iniciales (no existe la proporcionalidad entre las casas y los efectos, como en la física de Newton), resulta imposible de prever con muchos días de anticipación. Máxime la sociedad. ¿Cómo entonces se supone que se ejerce un control total sobre las cosas y las personas, cuando no podemos ni siquiera predecir un día soleado el mes próximo? ¿Cómo concederle una agencia al Estado cuando no podemos otorgársela al individuo, sino en un marco muy acotado? La técnica es paradójica. Rara vez lo reconocemos. Ella produce muy segundo lo contrario de lo que promete. Nos dice que iremos rápido y en unos años produce un embotellamiento irremediable. Nadie lo pudo prever. Pensamos que al lograr la fisión atómica nos colocábamos como amos del universo. Y luego, Chernóbil y Fukushima. Errores mínimos y catastróficos.
¿Cómo hablar de un Estado todopoderoso que controla a los individuos o de una ciencia que somete las cosas a sus designios? En los planes siempre sale algo mal. El éxito del capitalismo no procede de su capacidad de control, sino de seducción y autoorganización. El comunismo fue el experimento del control y la planeación. Para explicar la técnica en el capitalismo contemporáneo debemos rebasar la tesis del control y la disposición. Todo funciona de manera más entreverada, paradójica. El mundo informático producirá, sin duda, un gran descontrol informático. Habrá grandes volúmenes de ella imposibles de ser procesados. Habrá guerras sobre el acceso y posesión de información. Y habrá sin duda pugnas tanto por el hardware como por los sistemas operativos que deban organizar la información.
Éric Sadin nos dice en La silicolonización del mundo. La irresistible expansión del liberalismo digital: “El Espíritu de Silicon Valley consuma el fin de la historia, dejando emerger un mundo nuevo, desprovisto de toda fricción y aspereza y que vive en plena concordancia.”. Byung-Chul Han sostiene una tesis idéntica cuando afirma que nuestra época carece de toda experiencia de alteridad o “negatividad”, para usar el término hegeliano. Se trata de reediciones de la tesis heideggeriana sobre la familaridad forzada que introduce la técnica en nuestras vidas aderezadas con juicios sociológicos sobre el capitalismo, según las cuales éste se caracteriza por homogeneizar la vida. Pero con todo ello no vamos demasiado lejos. Se trata de críticas románticas a la tecnociencia ancladas en el espíritu del siglo XIX y, en el mejor de los casos, de críticas al mundo comunista extrapoladas al capitalismo. En efecto: el miedo a vivir en una sociedad de abstracciones, alejada de la naturaleza y la riqueza del sentido “propiamente humano” es una tesis romántica, pero que no solamente reacciona contra un capitalismo rampante, sino también contra su cara liberal y emancipadora.
Marx pudo ver en el carácter abstracto del dinero algo más que las frías aguas del cálculo. En él se realiza, de cierto modo, la igualdad de los humanos, que no requieren ninguna filiación de sangre para moverse en el mundo burgués. El dinero posee este doble carácter: emancipador, porque nos libera del anclaje de las cosas determinadas y de las cosmovisiones locales. En la ciencia encontramos una función análoga en el formalismo matemático: éste nos abre el universo entero, pero al costo de suprimir toda referencia a sustancias y entes. Lo vimos en el arte no-figurativo y la música atonal del siglo XX. Pero la reacción a todo ello se encuentra en el exigido retorno a los colores de la patria y la tradición o la idealización de la vida cotidiana. En cuanto a las extrapolaciones, antes de que el capitalismo fuera denunciado como un modo de totalitarismo, donde los humanos son forzados a la homogeneidad por medio del adoctrinamiento y el control y donde las cosas son producidas en serie de manera idéntica en grandes fábricas regidas por la razón instrumental, era ésta la crítica del mundo occidental al comunismo. Occidente se presentaba como el mundo de la libertad, sobre todo por el libre flujo del deseo. Occidente era pasional, abierto a la subjetivación del goce, mientras que el comunismo representaba la razón instrumentalizada y la vida sometida al control de la planeación central. El capitalismo era a-subjetivo, es decir, un mercado de intensidades sin cabeza estatal; un mundo de libre flujo -llamado mercado- sin un “significante trascendental” que le dictara a dónde ir. Boris Groys este viraje con mucha agudeza en El postcriptum comunista. Esto podemos ilustrarlo con Rocky IV: donde Rocky Balboa se entrena al más puro estilo heideggeriano: en el bosque, cerca de la nieve, levantando maderos que él mismo cortó, mientras que Drago, su oponente comunista, es producido por ingeniería cognitiva y corporal, con máquinas e ideología.
El asunto consiste aquí en reconocer el nudo del problema. No hay universalidad sin abstracción, no hay conectividad sin reducción formal. Habitar un mundo pleno de los olores de la familiaridad significa, necesariamente, el riesgo de que la imaginación caprichosa nos gobierne. Con imaginación no me refiero a un arte productivo, sino a las falacias y producciones ideológicas con las que saturamos el mundo con sentido… a costa de un valor vinculante, tanto en el saber como en la sociedad. Sadin reconoce con toda agudez que Silicon Valley significa la (viejísima) promesa de construir máquinas que nos libre del error y la finitud humanas. Todo el método científico no ha sido sino la búsqueda de un punto de vista neutral y, en nuestros tiempos, de sistemas de transformación de puntos de vista con el fin de volverlos relativamente conmensurables. La máquina significa la automatización de un método. En efecto, los economistas y todo tipo de científicos sociales resaltan los “sesgos cognitivos” que privan en nuestros juicios y que vuelven “irracional” nuestro comportamiento. Éste es el efecto del psicoanálisis popular en nuestros tiempos: puesto que somos seres pasionales, debemos dejar a la máquina que se ocupe de los asuntos de razón.
Esto es posible porque, detractores y defensores, han concebido la razón moderna como cálculo. Para unos, es preciso superar la razón y abrirse a su “otro”; la contraparte afirma que la verdadera razón ha sido reducida a mero cálculo. Se llama a una hiper-razón, sea como versión perfeccionada de ésta, o como su otro. Sí, la máquina capitalista ha sido hecha para perfeccionarnos. Pero, de nuevo, este perfeccionamiento no tiene otro interés que el perfeccionamiento productivo y la ampliación de la esfera de consumo. A ninguna empresa le interesan los sesgos raciales y su identificación, salvo los que poseen efectos en el consumo. La figura del hombre ha terminado, para unos, por las máquinas deshumanizantes, para otros, por un pensamiento poético que encuentra un más allá del humanismo en la promesa de un nuevo sujeto.
Pero el juicio de Sadin es, por lo menos unilateral, pues se asume que las máquinas son capaces realmente de producir un mundo sin fricciones y sin alteridad. En la crítica a la tecnología se habla muy poco de las paradojas de la informática (y del mundo algorítmico), que se siguen de las paradojas de todo sistema axiomático. Desde hace alrededor de un siglo se sabe del Haltproblem, trabajado especialmente por Turing, según la cual una máquina (una computadora) es incapaz de decidir, por sí misma, si un problema tiene una solución o no y, por tanto, no puede decidir tampoco cuándo parar. Se trata del límite estructural de la operación algorítmica, que soporta toda la computación actual. Lo humano tiene capacidad tanto de intuición, como de cambio de reglas y procedimientos, sin lo cual estaría eternamente atrapado en la indecisión.
Es curioso que se quiera caracterizar lo humano, especialmente la razón, como un ser atrapado en la indecidibilidad (debida a la imposibilidad del metalenguaje), cuando ésta es más bien la situación de las máquinas y los sistemas axiomáticos. El Haltproblem hace que las máquinas estén siempre asediadas por una alteridad ingobernable: la paradoja y la indecidibilidad. No reconocer este carácter dialéctico o doble de la técnica hace los análisis unilaterales y por tanto parciales. La misma tesis sobre la anulación de la alteridad la abraza Byung-Chul Han. Pero con ello confunde la aspiración técnico-científica de suprimir la sorpresa con su realización. Nuestro mundo no puede, estructuralmente, eliminar la negatividad. Solamente la disimula. Quizá un habitante de Europa pueda hablar del fin de las clases sociales, pero solamente en cuanto se vuelve ciego a su desplazamiento más allá de sus fronteras. Por un momento puede parecernos espantosa la idea de que Siri decida por nosotros. Pero, en primer lugar, no será estructuralmente diferente que cuando el señor cura decidía por nosotros en el nombre del padre. En segundo lugar, nosotros mismos, al vivir con un deseo dividido, no estaremos conformes con Siri y pediremos otras cosas que, como siempre, saldrán mal, es decir, saldrán del plan inicial. Tercero, la máquina, por sus limitaciones estructurales, entrará en conflicto con otras máquinas, como ya compiten las propias compañías entre el espionaje y la minería de datos y los antivirus, antimalware, donde se paga por la privacidad y el anonimato; o la competencia entre la web y la dark web, o entre los “apegados a la ley” y los hackers (sin que se opongan siempre, claro está).
Es obvio que la informática y la inteligencia artificial constituyen hoy el principal brazo del capitalismo. Es obvio que con ellos se espía, se obtiene información sensible y se usa con fines políticos y comerciales. Es obvio que la técnica contemporánea nos conduce a un lugar deplorable. Pero, al mismo tiempo, no podemos perder de vista lo que su universo abstracto logra (por momentos). No podemos olvidar las paradojas internas a todo sistema informático. No debemos olvidar lo maquínico de la existencia humana. Pero, sobre todo, no debemos pasar por alto que ese mundo de la técnica es ya el terreno de batallas actuales y venideras