A Sócrates no le gustaba la escritura (este es un ensayo sobre la inteligencia artificial)
A Sócrates no le convencía eso de escribir. Su argumento principal era que, al tener las ideas siempre a la mano en un dispositivo externo a la mente humana, esto atrofiaría nuestra memoria: ya no haríamos un esfuerzo por recordar largos poemas épicos, o largas listas de hechos científicos. Pero tampoco haríamos un esfuerzo por recordar nuestros propios argumentos sobre disquisiciones varias. Todo estaría por ahí, en papel o en piedra, listo para consultarse cuando se nos diera la gana.
Esto, habría dicho Sócrates, nos daría una “simulación” del conocimiento, en vez de permitirnos acceder a un “verdadero” conocimiento de las cosas. Por supuesto, yo sólo sé de esto porque uno de los discípulos de Sócrates, un tal Platón, escribió en su Fedro acerca de lo que su maestro pensaba de la escritura.
A pesar de las críticas de Sócrates, la escritura triunfó como tecnología: casi todas las sociedades del planeta la han adoptado y buena parte de nuestro conocimiento, nuestras comunicaciones y nuestra vida en general está basada en esta invención.
Esta victoria, a pesar de las críticas de “tradicionalistas” como Sócrates, ha sido puesta en paralelo con el estado de las cosas con la inteligencia artificial: una nueva tecnología que tiene muchos críticos, pero que eventualmente se impondrá y cambiará nuestra manera de vivir por completo.
Yo mismo, en otras conversaciones sobre otras cosas, he recurrido a esta historia de Sócrates con la escritura. Recuerdo en algún taller dictado hace muchos años haber dicho que las redes sociales (con todas las críticas que merecían y aún merecen) se impondrían como tecnología, cambiarían nuestra manera de vivir (y sí, estoy citando esto no como un buen ejemplo, sino como un ejemplo de que uno puede usar este argumento para cualquier innovación). Así como las críticas de Sócrates no pudieron parar el éxito de la escritura, nosotros no podríamos parar el auge de las redes sociales.
Pero Sócrates tuvo razón en algo: la escritura sí atrofió nuestra memoria. No la de todos, por supuesto, pero sin duda relegó el acto de recordar a un segundo plano, tanto individualmente (alguien con memoria eidética, o con el conocimiento oral de su pueblo es impresionante, pero no es tan respetado como antes), como colectivamente (después de milenios de escritura, cada vez hay menos personas por ahí recitando La Ilíada y cada vez son menos las sociedades en las que importa la tradición oral).
Pero, a cambio, la escritura nos abrió la posibilidad de conocer mucho más allá de lo que puede guardar una memoria humana individual. Los grandes avances de la ciencia, la filosofía, o la literatura (occidentales y orientales, del sur y del norte), no habrían sido posibles sin la escritura, sin la posibilidad de intercambiar ideas a lo largo de países, continentes y siglos.
Un discípulo de Platón, Aristóteles, a veces es descrito como una de las últimas personas que sabían todo lo que había por saber. No porque estuviera al tanto de todo el conocimiento en general, sino porque en su época la escritura aún no era tan popular y la cantidad de conocimiento a la que podía potencialmente tener acceso un individuo seguía siendo muy limitada. Quizás conociera todo lo que había que conocer en su mundo, pero ese mundo era bastante pequeño. Probablemente ignoraba conocimientos de China, o América, pero no podía saber que los ignoraba.
Eso es imposible de sostener ahora. Ninguna persona por sí sola puede tener en su cabeza todo el conocimiento humano. Pero sí tiene acceso, potencialmente, a todo este conocimiento, en internet, en libros, incluso en ChatGPT. Cada formato con sus errores y sesgos.
Por su parte, las redes sociales (en un sentido amplio que incluye foros y blogs) atrofiaron nuestro sentido de habitar una realidad común. Pero a cambio nos dieron la posibilidad de cambiar las dinámicas del poder de la información. Ahora “cualquiera” (en el sentido de Ratatouille) puede hacer escuchar su voz, no sólo los guardianes de la información a los que hemos estado acostumbrados. Esto tiene sus cosas buenas y malas, pero sin duda ha cambiado cómo vivimos e interactuamos.
Una de las críticas que se le suele hacer a la inteligencia artificial generativa (que como conté en otro post, es una sección muy específica de la IA) y que yo mismo hago, es que va a atrofiar nuestra capacidad de hacer y pensar cosas críticamente. Si decides programar usando sólo un chatbot (una práctica llamada “vibe coding” en inglés), vas a delegar constantemente no sólo el trabajo, sino la capacidad de aprender cómo hacerlo. Nunca vas a aprender a programar bien. Ni siquiera vas a saber cómo corregir los errores que salgan de ese vibe coding, porque no vas a saber identificarlos. Lo mismo puede pasar con cualquier actividad humana que se le delegue a una inteligencia artificial: escribir, componer o tocar música, pensar en argumentos, lo que sea.
Emily Bender, una de las autoras del famoso artículo académico “On the Dangers of Stochastic Parrots”, que argumenta que las inteligencias artificiales generativas son sólo máquinas que reproducen patrones (y por lo tanto no “entienden” lo que escriben, ni “tienen consciencia”) planteó en estos días en su blog que esto, delegar el aprendizaje de habilidades, es un costo de oportunidad. Es decir que, al hacerlo, se pierde la alternativa, que en este caso es poder hacer cosas nosotros mismos (incluso cosas mundanas e insulsas como enviar un correo electrónico laboral).
Por supuesto, muchos de todas maneras la usan y la seguirán usando para realizar actividades que quizás no les son tan importantes No podemos negar que la inteligencia artificial esté aquí para quedarse. El asunto es cómo va a quedarse. A diferencia de la escritura, no es claro cuál es el beneficio concreto que pueda traernos la inteligencia artificial para que se justifique su eventual omnipresencia (y el atrofiamiento que ella implica). Si absolutamente todos adoptáramos su uso en todas las áreas de la vida, pronto nadie tendría habilidades. Es más, sólo podríamos acceder a habilidades pagando el precio de suscripción (que inevitablemente será aumentado por las compañías de IA que en estos momentos están operando a pérdidas para fidelizar a sus clientes).
El vibe coding funciona porque hay gente que sabe programar. Un programador que sabe lo que hace puede pedirle a una IA que le haga un código y luego puede revisar y corregir sus inevitables* errores. O puede corregir los errores de las personas que no saben programar pero usaron un chatbot para escribir código. De hecho hay toda una industria de programadores dedicados a hacer estos arreglos. Muchas empresas de software ahora no están contratando a programadores junior, con la idea de que alguien puede producir código à la vibe coding y luego un programador más experto lo puede corregir. ¿Pero qué van a hacer cuando esos programadores expertos se retiren y las empresas pierdan esas habilidades? Por ahora, muchas confían en las promesas de mejoría de la industria de la inteligencia artificial*.
Pero yo postulo que este, como todos los sectores, eventualmente se dará cuenta que tener habilidades humanas es mucho más valioso. De hecho muchas ya se han dado cuenta. Y las personas se darán cuenta también: incluso si la industria de la inteligencia artificial no está en una burbuja y si sí se apodera de todas nuestras vidas, las personas nos daremos cuenta de que obtener habilidades es mucho más valioso de delegárselas a una máquina.
Ya que escribo como trabajo, muchas veces me han preguntado si no creo que seré reemplazado por una inteligencia artificial. Yo creo que no. Aunque seguramente muchas personas usarán estas herramientas para escribir cosas, consideren lo que pasaría si todo el texto del mundo fuera creado por IA: los modelos de lenguaje en los que están basados estas herramientas simplemente regurgitarían infinitamente otros textos, si bien coherentes, de baja calidad y de dudosa verosimilitud ya regurgitados por otra inteligencia artificial. Eventualmente habría un mercado para algún humano que entrara, cuando menos, a revisar, a editar, a hacer algo con el texto. A escribir.
La escritura fue revolucionaria, por todas las razones ya mencionadas; pero la inteligencia artificial parece cada vez más ser una “tecnología normal”, como lo plantean en un artículo académico Arvind Narayanan y Sayash Kapoor. Una tecnología que transformará muchas cosas, pero que no es tan utópica como la pintan sus mercaderes, ni tan distópica como dicen sus más fuertes críticos. Sino una tecnología más, que tendrá sus usos y aplicaciones, sus consecuencias y efectos, pero no cambiará a toda la sociedad de pies a cabeza.
En su blog, Bender también argumenta que aún podemos, como sociedad, influenciar el impacto que pueda tener la inteligencia artificial en nuestras vidas. La escritura es sencilla y, ya inventada, es prácticamente inevitable (como cuenta el escritor de ciencia ficción Ted Chiang en un cuento sobre la escritura y la memoria). La inteligencia artificial es muy compleja y aún no nos ha demostrado que se justifique para ser inevitable y que sus críticos quedemos como Sócrates.
*La industria de la inteligencia artificial argumenta que su producto mejorará tanto que los errores sí llegarán a ser evitables. A mí no me convence ese argumento.
