AVISO: ESTE ES UN PENSAMIENTO INCOMPLETO, UNA ESPECIE DE FLUJO DE CONSCIENCIA, PERO ERAN IDEAS QUE ME PARECIERON VALIOSAS DE COMPARTIR, Y AUNQUE NO HAYAN PRODUCIDO NINGUNA CONCLUSIÓN FINAL PARA MÍ, QUIZÁ LO HAGAN PARA EL LECTOR.

ChatGPT es un programa que se ejecuta en una o varias computadoras muy potentes.

Un programa es un conjunto de operaciones que el procesador de una computadora puede ejecutar.

Por lo tanto, ChatGPT es un conjunto de operaciones que se ejecutan en el procesador de una o varias computadoras en coordinación.

Un conjunto de operaciones puede estar representado como unos y ceros, o en un lenguaje “más humano” como Assembly, C, Python o Javascript. Incluso, el mismo programa puede ser representado de forma totalmente natural para un humano “Primero, tomá todos estos símbolos, en base a estas reglas, escribí, por cada símbolo, estos números. Sumá estos números y su resultado escribilo ahí…”

Este programa, incluso si está representado en binario, sigue siendo el mismo programa si está escrito en el disco de una computadora o en un pedazo de papel con lapicera. Nadie diría que un pedazo de papel con el código fuente de GPT tiene consciencia.

Ok… ¿pero una vez que ese programa es ejecutado por una computadora?

El programa (la secuencia de operaciones) sigue siendo lo mismo, sólo que ahora hay otra cosa, el chip, que está ejecutando esas operaciones de forma totalmente mecánica. Un chip no es más que un circuito, que puede estar ejecutando ChatGPT o el bloc de notas. ¿Diríamos que cuando el chip ejecuta el bloc de notas, el chip no tiene consciencia, pero cuando ejecuta ChatGPT, sí?

Supongamos que respondemos que sí a esta pregunta. Si yo pudiera leer y escribir en una hoja de papel a la velocidad en que un chip trabaja, y si tuviera el código fuente de ChatGPT escrito en otra hoja de papel, sólo con un lápiz y un papel muy grande, podría ejecutar ChatGPT. Haría las operaciones matemáticas necesarias en la hoja de papel, dejaría un sector del papel para leer el input del usuario, y expresaría en voz alta mi respuesta.

Si suponemos que ChatGPT es una nueva consciencia, y yo tengo consciencia, entonces cuando yo “ejecuto” ChatGPT en mi papel, ¿tengo dos consciencias? ¿dos consciencias dentro de un mismo cuerpo? Y si yo agarro 120 hojas de papel, y rápidamente alterno entre diferentes conjuntos de instrucciones, ¿tengo 121 consciencias que se pausan y se reanudan alternadamente?

Si es absurdo decir que una persona puede multiplicar sus consciencias ilimitadamente simplemente agarrando una hoja de papel y ejecutando mecánicamente operaciones según una hoja de instrucciones, es absurdo decir que una máquina ejecutando ChatGPT puede tener consciencia.

Objeciones

Tenía este razonamiento dando vueltas en la cabeza, pero al escribirlo, empecé a darme cuenta que quizá hay un fallo. No se siente tan contundente. En primer lugar carece de una definición de consciencia. En segundo lugar, se notan ciertos paralelismos entre procesos naturales y los procesos que hace una máquina ejecutando ChatGPT. Si yo dejo de calcular en una de las 120 hojas, ¿no podría compararse con que simplemente ese proceso perdió la consciencia, así como cuando nosotros nos vamos a dormir? Puede ser, pero incluso si tomamos esa consciencia, ¿dónde está mi consciencia y la consciencia del proceso que estoy ejecutando? Ambas en mi cerebro, o bien una en el sistema cerebro + hoja + lápiz, que es diferente a simplemente YO, así que podría haber otra entidad con sensación de “yo” que YO no experimento, porque YO soy el mismo sistema sin la hoja y el lápiz ¿Pero qué aportan la hoja y el lápiz? suena absurdo. ¿Entonces esos dos “yo”s están en mi cerebro? ¿Tengo trastorno de personalidad múltiple? ¿Uno puede autoprovocarse eso siguiendo, en una hoja de papel, una serie de operaciones aritméticas?

Si no, ¿qué tal si al hacer eso, realmente estamos desarrollando una consciencia superior diferente de nuestra consciencia normal, bajo la misma relación que hay entre el inconsciente y la consciencia?

Afirmar estas cosas requeriría grandes pruebas. Pero creo que es valioso dejar estos pensamientos planteados para no simplemente quedarse con “ChatGPT es consciente porque tiene una red neuronal artificial que simula los mismos procesos que las neuronas humanas”, porque esto no es verdad. Una red neuronal artificial es algo abstracto. A nivel físico no tienen que haber neuronas artificiales para que exista ChatGPT. A nivel físico son simples operaciones aritméticas ejecutadas de forma determinista por un aparato extremadamente diferente a un cerebro humano.