La conciencia humana como evidencia de que las computadoras no podrán “manejarnos”

Hay muchas personas muy preocupadas pensando que los algoritmos podrían "dominarnos" o que estamos indefensos ante su accionar.

Obvio que existen, obvio que los poderes los usan para intentar controlarnos, peeeeero...

De NOSOTRES y de nuestra conciencia depende.

No por nada hay gente ( neoliberales, derechoses) que intentan eliminar y descalificar el "pensamiento crítico".

No por nada intentan convencernos que el disenso y la discusión son "peligrosas" o "negativas".

De nosotres depende. NO somos computadoras.

La conciencia humana como evidencia de que las computadoras no podrán “manejarnos”:

Fragmentos de “La Mente Nieva del Emperador”, de Roger Penrose (Físico cuántico, Matemático, Filósofo, pensador)

“…¿por qué los seres como nosotros nos preocupamos a veces —especialmente cuando se investiga en el tema— por cuestiones sobre el "yo"? (Casi podría decir: "¿por qué están ustedes leyendo este capítulo?" o "¿por qué sentí yo en primer lugar un fuerte deseo de escribir un libro sobre este tema?") Es difícil imaginar que un autómata completamente inconsciente perdiera su tiempo en estos temas.

Puesto que, por el contrario, los seres conscientes parecen actuar de esta extraña manera de vez en cuando, ellos se están comportando en consecuencia de una forma que es diferente de la forma en que lo harían si no fueran conscientes, así que la conciencia tiene algún efecto activo.

Por supuesto, no habría problema en programar deliberadamente una computadora para que pareciera que se comportaba de esta forma ridícula (v.g. podría ser programada para que deambulara murmurando: "Oh, ¡Dios mío!, ¿cuál es el sentido de la vida?" "¿Por qué estoy aquí?" "¿Qué diantres es este 'yo' que siento?"). Pero ¿por qué se molestaría la selección natural en favorecer semejante raza de individuos, cuando seguramente el implacable mercado libre de la jungla debería haber extirpado hace tiempo tales absurdos inútiles?

Me parece claro que estas meditaciones y murmuraciones a que nos entregamos cuando (quizá temporalmente) nos hacemos filósofos no son cosas que sean seleccionadas por sí mismas, sino que son el "equipaje" necesario (desde el punto de vista de la selección natural) que deben llevar los seres que son conscientes y cuya conciencia ha sido elegida por la selección natural, aunque por alguna razón diferente y presumiblemente muy poderosa. Es un equipaje que no es demasiado gravoso y es fácil de llevar (aunque quizá a regañadientes), yo diría, para las indómitas fuerzas de la selección natural.

En ocasiones, tal vez cuando se dan la paz y prosperidad de que a veces disfruta nuestra afortunada especie, y no tenemos que estar siempre luchando contra los elementos (o nuestros vecinos) por la supervivencia, los tesoros del contenido de nuestro equipaje pueden empezar a intrigarnos y asombrarnos. Es cuando vemos que otros se comportan con esta extraña conducta filosófica cuando nos quedamos convencidos de que estamos tratando con individuos, distintos de uno mismo, que también tienen mentes.”

“…intervienen muchos factores inconscientes en nuestros juicios conscientes: experiencia, intuición, prejuicio, incluso nuestra utilización normal de la lógica. Pero, afirmaré, los propios juicios son las manifestaciones de la actuación de la conciencia. Sugiero así que, mientras que las acciones inconscientes del cerebro son las que proceden según procesos algorítmicos, la acción de la conciencia es muy diferente y actúa de una forma que no puede describirse mediante ningún algoritmo. (…)

En realidad, los algoritmos por sí mismos nunca comprueban la verdad. Sería tan fácil hacer que un algoritmo sólo produjera falsedades como hacer que produjera verdades. Necesitamos intuiciones externas para decidir la validez o no de un algoritmo (…).

Estoy exponiendo aquí el argumento de que es esta capacidad para distinguir (o "intuir"), en circunstancias apropiadas, verdad de falsedad (y belleza de fealdad) lo que constituye la impronta de la conciencia. (…)

Me estoy refiriendo a los juicios que hacemos continuamente mientras estamos conscientes, reuniendo todos los hechos, impresiones sensoriales y experiencias recordadas que son de importancia, y sopesando las cosas, incluso formando en ocasiones juicios inspirados.”

Roger Penrose

En “La Mente nueva del Emperador”, 1989.