La procedencia de las ideas en tiempos de inteligencia artificial

Sobre la facilidad de producir explicaciones y la responsabilidad de reconocer el conocimiento ajeno.

Hoy podemos explicar con soltura una teoría que nunca hemos estudiado, comentar un libro que no hemos abierto y compartir una reflexión sin saber quién formuló originalmente las ideas que la sostienen. Basta escribir unas cuantas instrucciones para obtener, en cuestión de segundos, una respuesta aparentemente bien construida.

La inteligencia artificial ha llevado esta posibilidad a una escala difícil de imaginar hace apenas unos años. Sería absurdo desconocer sus ventajas, pues esta tecnología nos permite aproximarnos a materias que antes parecían inaccesibles, explorar preguntas que quizá no nos habríamos formulado y encontrar nuevas maneras de organizar lo que sabemos.

Pero semejante facilidad trae consigo una paradoja, y es que nunca había resultado tan sencillo producir una explicación convincente sin necesariamente haber recorrido el camino intelectual que permite comprenderla.

El asunto merece alguna atención, sobre todo porque detrás de muchas de las ideas que hoy circulan por internet hay una historia que rara vez aparece en pantalla. Una historia hecha de investigaciones, desacuerdos y esfuerzos intelectuales que, en ocasiones, ocuparon buena parte de la vida de quienes los emprendieron.

La rapidez de nuestras respuestas contrasta, así, con la lentitud que frecuentemente exige producir conocimiento.

El conocimiento no comienza con una respuesta

Conviene recordar algo que, por evidente, suele pasarnos inadvertido; me refiero a que el conocimiento no se produce espontáneamente, y que las teorías que hoy podemos resumir en unos cuantos párrafos son, muchas veces, resultado de años de investigación y de sucesivas revisiones de aquello que alguna vez se tuvo por cierto.

Pensemos, por ejemplo, en la última publicación de Apuntes Críticos, donde abordé una manifestación específica del poder: la capacidad de impedir que determinados asuntos lleguen siquiera a discutirse. Ilustrar el concepto con un ejemplo cotidiano permite volverlo comprensible y hasta sugerente; sin embargo, detrás de ese planteamiento se encuentra una conversación teórica mucho más amplia, en la que ocupa un lugar destacado el artículo Two Faces of Power, publicado por Peter Bachrach y Morton S. Baratz en 1962.

Mencionar a estos autores no vuelve automáticamente más verdadero nuestro argumento. Tampoco significa que sus planteamientos estén fuera de discusión. Lo que hace es permitir que quien nos lee identifique de dónde proviene esa manera de entender el poder y, si lo desea, pueda examinarla o profundizar en ella. La referencia no clausura la conversación: permite continuarla.

Y eso tiene una consecuencia importante, porque el conocimiento no se vuelve menos nuestro por reconocer lo que debemos a otros; por el contrario, identificar las ideas que nos anteceden puede ayudarnos a distinguir con mayor precisión qué estamos recuperando y qué aportamos realmente a la discusión.

Después de todo, la originalidad intelectual no exige inventar cada concepto desde cero, ya que también puede consistir en encontrar aplicaciones nuevas para una teoría, establecer relaciones poco exploradas o formular objeciones razonadas a explicaciones generalmente aceptadas.

Nada de ello requiere borrar las huellas del pensamiento que nos precede.

La inteligencia artificial y la procedencia invisible

La aparición de los modelos de inteligencia artificial generativa introduce una dificultad particular en esta relación.

Estas herramientas se entrenan con grandes cantidades de información, que pueden incluir libros, artículos y otros materiales producidos por seres humanos. A partir de ese entrenamiento, generan respuestas mediante procesos computacionales que no equivalen, sencillamente, a buscar una frase y copiarla.

De ahí que resulte inexacto afirmar que cada respuesta de la inteligencia artificial pertenece directamente a un autor determinado; aun así, sería igualmente equivocado suponer que las explicaciones que produce carecen de antecedentes intelectuales.

La UNESCO, en su guía sobre inteligencia artificial generativa en la educación y la investigación, examina los desafíos que estas tecnologías plantean para la producción y utilización responsable del conocimiento (Miao y Holmes, 2023).

El problema de la procedencia adquiere aquí una dimensión singular, toda vez que una respuesta puede incorporar conceptos desarrollados durante décadas sin reconstruir necesariamente las discusiones que les dieron origen; incluso cuando el resultado es correcto, las contribuciones intelectuales que lo sustentan pueden quedar fuera de nuestra vista.

Así, las ideas llegan hasta nosotros desprendidas de buena parte de su contexto. Conocemos la conclusión, pero no siempre sus fundamentos; recibimos una explicación terminada, aunque ignoramos los desacuerdos que permitieron construirla.

Ciertamente, no es un fenómeno enteramente nuevo, pues mucho antes de que la inteligencia artificial arribara a nuestras vidas, ya existían personas que repetían ideas ajenas sin atribuirlas, publicaciones que simplificaban teorías hasta desfigurarlas y discursos que presentaban como originales argumentos de larga tradición.

Y no quisiera hablar de ello desde una posición de inocencia que tampoco me corresponde: confieso que yo mismo, ante algún apuro escolar, llegué a recurrir a esos atajos que resuelven una tarea sin necesariamente dejar mucho aprendizaje a su paso. Quizá por eso me interesa menos repartir reproches que examinar lo que ocurre cuando aquella vieja tentación encuentra herramientas capaces de satisfacerla en cuestión de segundos.

Lo novedoso está en la escala y en la extraordinaria facilidad con que hoy puede ocurrir.

La tecnología ha acortado considerablemente la distancia entre formular una pregunta y obtener una respuesta, pero lo que no necesariamente ha reducido es la distancia entre recibir esa respuesta y comprenderla.

¿Dónde termina lo que pensamos nosotros?

Ni siquiera el rigor de añadir referencias bibliográficas nos libra de la obligación de preguntarnos cuánto de lo que publicamos es fruto de un escrutinio propio y cuánto un discurso recibido que decidimos no examinar.

Me encuentro lejos de pretender establecer una frontera imposible entre las ideas propias y las ajenas. Ninguno de nosotros piensa desde el vacío y nuestra manera de comprender el mundo está atravesada por lecturas, conversaciones y experiencias cuyos orígenes rara vez podemos reconstruir por completo.

No obstante, existe una diferencia entre construir una reflexión a partir de conocimientos anteriores y adoptar una explicación únicamente porque resulta convincente.

La inteligencia artificial enriquece el pensamiento cuando nos obliga a confrontar hipótesis o identificar lagunas documentales, pero resulta igualmente eficaz para sustituir el esfuerzo de la comprensión por el alivio de obtener una respuesta rápida.

No habría que confundir, entonces, la fluidez de una explicación con la profundidad de nuestro entendimiento.

Basta someter el texto a un ejercicio básico de justificación. Cuando un autor no logra sostener lo que acaba de publicar frente a quien le pide profundizar en un concepto o explicar por qué descartó una hipótesis distinta, queda en evidencia que ha adoptado la idea sin asimilarla; sin esa capacidad de defensa, la formulación sigue siendo un préstamo.

Desde luego, nadie necesita dominar exhaustivamente una materia para formular preguntas o compartir aprendizajes; de hecho, sería una pretensión desmedida, además de una manera bastante eficaz de empobrecer la conversación pública. Pero sí convendría cultivar cierta prudencia frente a la tentación de presentar como conocimiento consolidado lo que apenas estamos comenzando a comprender.

El riesgo no es que la inteligencia artificial nos arrebate la capacidad de razonar; lo verdaderamente problemático es la habituación a respuestas ajenas y la pérdida de instinto para saber en qué momento dejamos de pensar por nuestra cuenta.

Citar no es presumir erudición

Llegados a este punto, la importancia de citar las fuentes adquiere otro sentido.

Si bien el rigor académico exige mecanismos estrictos para reconocer la procedencia de la información, resulta desproporcionado esperar que la velocidad de las redes sociales asimile el formato de una revista especializada.

Hay publicaciones en las que bastará mencionar al autor y la obra; en otras, será conveniente incorporar un enlace o una referencia más completa. Lo importante es no perder de vista la obligación intelectual que subyace a esas prácticas.

Más allá de adornar un texto con apellidos ilustres, el acto de citar asume una responsabilidad doble: transparentar nuestras deudas intelectuales y garantizar que el texto quede abierto a la verificación.

Tampoco deberíamos convertir las referencias en un recurso de autoridad destinado a intimidar al lector, porque citar a una persona reconocida no demuestra, por sí mismo, que tengamos razón. Huelga decir que los autores pueden equivocarse y las teorías pueden resultar insuficientes.

Además, delegar la construcción del aparato crítico a un modelo probabilístico introduce una vulnerabilidad empírica documentada. En 2023, Walters y Wilder demostraron cómo iteraciones como GPT-3.5 y GPT-4 fabricaban referencias inexistentes y cometían errores de atribución evidentes. Aunque la precisión técnica de los sistemas actuales ha evolucionado, el riesgo estructural persiste, ya que la sintaxis convincente de una máquina puede generar citas verosímiles que, al reproducirse ciegamente, disfrazan la ausencia de investigación bajo una mera apariencia de rigor.

La responsabilidad sigue siendo nuestra

Transparentar el uso de herramientas generativas y reconocer la autoría de una idea plantean exigencias independientes. Alguien podría advertir a sus lectores que empleó un procesador para redactar su publicación y, simultáneamente, omitir a los teóricos que desarrollaron los argumentos centrales; en el extremo opuesto, el uso correcto de las referencias no revela si el esfuerzo de sintetizar esa información contó con asistencia tecnológica. Delegar la escritura y apropiarse del conocimiento ajeno son problemas diferentes que exigen soluciones separadas.

El Comité de Ética en Publicaciones (COPE, 2024) ha sostenido que las herramientas de inteligencia artificial no pueden figurar como autoras de artículos académicos, entre otras razones porque no pueden asumir responsabilidad por su contenido; en consecuencia, quienes firman esos trabajos siguen siendo responsables de lo publicado.

Aunque las exigencias de un artículo científico no sean trasladables en todos sus términos a una publicación de redes sociales, el principio de responsabilidad conserva su pertinencia.

Una herramienta puede ayudarnos a encontrar una formulación, pero no nos dispensa de examinarla; puede sugerir referencias, pero no sustituye su comprobación. La decisión de publicar y respaldar una afirmación continúa siendo nuestra.

Por tanto, el debate central excede la frecuencia con la que recurrimos a la inteligencia artificial; el quid radica en la responsabilidad sobre la información que decidimos difundir. Asumir esa carga implica aceptar una condición que riñe con la urgencia contemporánea: el acto de comprender exige detenerse.

Hay, además, otra dimensión de esta responsabilidad que conviene no pasar por alto, y es que basta recorrer las redes sociales para encontrar numerosas páginas dedicadas a la divulgación, sin que siempre resulte posible identificar a las personas que los elaboran o administran. No es que el anonimato vuelva sospechosa una idea, ni que firmarla con nombre propio le confiera automáticamente mayor validez, pero saber quién está detrás de lo que leemos nos proporciona elementos adicionales para examinar su procedencia y, llegado el caso, exigir explicaciones.

En Apuntes Críticos he procurado mantener una distinción que considero importante: que el protagonismo corresponda a las ideas y no a mi persona; No obstante, esa decisión editorial no tendría por qué traducirse en opacidad. Por ello, he destinado un apartado específico de la página a presentar mi nombre y mi trayectoria profesional, para que quien lo desee pueda conocer quién está detrás de este proyecto. No porque una formación académica garantice la corrección de lo que publico, sino porque considero razonable que quienes leen mis reflexiones puedan saber desde dónde escribo y quién asume la responsabilidad por ellas.

El rigor de transparentar las fuentes impone una exigencia equivalente sobre nuestro propio trabajo: hacernos cargo de lo que publicamos; porque fomentar el examen crítico de las ideas ajenas pierde sentido cuando nuestras afirmaciones circulan buscando sustraerse de ese mismo nivel de comprobación.

Reconocer también es una forma de pensar

Tal vez convenga recuperar una costumbre intelectual que parece demasiado modesta para los tiempos que corren: detenernos a preguntar de dónde proviene lo que acabamos de leer.

No para reconstruir una genealogía interminable de cada afirmación ni para convertir las publicaciones cotidianas en trabajos académicos. Se trata, sencillamente, de reconocer que una explicación accesible puede descansar sobre esfuerzos que desconocemos y que compartirla no nos convierte automáticamente en sus autores.

Desde luego, ninguna cita garantiza por sí sola la honestidad de quien escribe., ya que también es posible acumular referencias sin haber leído las obras, atribuir ideas equivocadamente o utilizar nombres prestigiosos para encubrir argumentos débiles.

La práctica de citar tiene sentido cuando expresa una disposición más profunda: reconocer nuestros límites, distinguir las contribuciones propias de las ajenas y ofrecer a los demás la posibilidad de examinar lo que afirmamos.

Quizá esa disposición resulte especialmente necesaria en una época que premia la rapidez con que publicamos y la seguridad con que nos expresamos.

No necesitamos renunciar a las herramientas que amplían nuestras posibilidades de aprender, pero tampoco deberíamos permitir que su eficacia nos haga olvidar a las personas que han contribuido a construir buena parte del conocimiento que hoy tenemos al alcance.

Porque una cosa es tener acceso a una idea y otra muy distinta es haberla concebido. Y si nunca había sido tan fácil compartir el conocimiento de otros, acaso pocas veces había sido tan necesario recordar que no todo lo que sabemos comenzó con nosotros.

Referencias

Bachrach, P., & Baratz, M. S. (1962). Two faces of power. American Political Science Review, 56(4), 947–952. https://doi.org/10.2307/1952796

COPE Council. (2024). Authorship and AI tools [Documento de posición]. Committee on Publication Ethics. https://doi.org/10.24318/cCVRZBms

Miao, F., & Holmes, W. (2023). Guidance for generative AI in education and research. UNESCO. https://doi.org/10.54675/EWZM9535

Walters, W. H., & Wilder, E. I. (2023). Fabrication and errors in the bibliographic citations generated by ChatGPT. Scientific Reports, 13, artículo 1