Conferencia “Inteligencia artificial y pensamiento crítico”

La inteligencia artificial (IA) es la tecnología más disruptiva de nuestro tiempo.

Uno de sus mayores peligros es la posible falta de control humano sobre ella, lo que podría llevar a que los sistemas inteligentes tomen por sí mismos decisiones peligrosas o inesperadas. También existe el riesgo de que la IA se utilice para fines como la guerra cibernética, el espionaje mediante sistemas de vigilancia masiva, la manipulación de la opinión pública, el aumento de la desigualdad social y económica, la creación de software malicioso, o la implementación de armas autónomas.

La IA también plantea desafíos éticos y legales complejos en torno a la privacidad, la discriminación y la transparencia. Por ejemplo, la recopilación y el uso de datos personales para entrenar sistemas de IA pueden violar el derecho a la privacidad, y la falta de transparencia en sus algoritmos puede dar lugar a injustas decisiones discriminatorias.

Los cerebros digitales han impulsado avances significativos en áreas como la medicina, la energía, el transporte y la agricultura. También han mejorado la eficiencia y la precisión de la investigación científica, acelerando el descubrimiento de nuevos materiales, medicamentos y tecnologías y avanzando en la solución de algunos desafíos globales apremiantes, como el cambio climático, la pobreza y la salud pública.

Entre las herramientas que la IA destaca una que utiliza técnicas de aprendizaje profundo para generar respuestas a partir de una entrada de texto dada: el Chat GPT. Su gran potencial en términos de eficiencia y productividad puede impulsar el avance del conocimiento en muchos campos pero también presenta peligros y desafíos significativos que deben abordarse de manera responsable.

Una de las principales ventajas que ofrece Chat GPT es su capacidad para procesar grandes cantidades de información generando respuestas en un tiempo muy breve. Chat GPT se puede personalizar adaptándose a diferentes dominios de conocimiento y áreas temáticas, lo que significa que puede ser utilizado en una amplia gama de aplicaciones, desde la traducción automática hasta la generación de contenidos.

La escalabilidad es otra de sus características virtuosas: debido a que abreva en la nube, Chat GPT puede gestionar simultáneamente una gran cantidad de interacciones de usuarios. Pero lo axial es su capacidad de aprendizaje: Chat GPT mejorará continuamente en la medida en que interactúe con más usuarios y reciba un mayor volumen de datos para su entrenamiento.

No obstante, también hay algunas desventajas en el uso de Chat GPT. Una de las principales es que la calidad de las respuestas generadas depende de la fiabilidad de los datos utilizados para entrenar el modelo. Es importante tener en cuenta los sesgos que operan en esos datos y en el modelo subyacente, lo que podría afectar la precisión de las respuestas generadas. Dicho de otro modo:  como modelo de lenguaje basado en inteligencia artificial, Chat GPT puede estar expuesto a ciertos sesgos cognitivos y culturales que pueden afectar la precisión y la imparcialidad de sus respuestas. Por ejemplo: a) Error de comprensión: a veces, Chat GPT puede tener dificultades para entender el contexto de una conversación pudiendo malinterpretar el significado de una pregunta, lo que puede llevar a respuestas inexactas. b) Riesgo de seguridad: debido a la naturaleza de los datos que maneja, Chat GPT puede ser vulnerable a la exposición de datos sensibles o a la manipulación de conversaciones en función de propósitos malintencionados. c) Limitaciones lingüísticas: aunque Chat GPT es capaz de procesar y entender varios idiomas, aún tiene limitaciones para manejar dialectos regionales o jergas específicas.

Otra desventaja de utilizar Chat GPT es que, debido a su naturaleza automatizada,  carece del juicio reflexivo que a menudo es necesario para comprender un problema. Por lo tanto, es importante utilizar Chat GPT como una herramienta complementaria a la inteligencia humana y no como un reemplazo de la misma.

De acuerdo a lo anterior, el pensamiento crítico se hace necesario no sólo para contrastar la información recibida sino también para discriminar los sesgos de la inteligencia artificial, en todo equivalentes a los sesgos cognitivos que deforman y degradan los procesos de razonamiento humano. Como modelo de lenguaje basado en inteligencia artificial, Chat GPT tiene la capacidad de procesar y generar información de manera autónoma. Sin embargo, para analizar de manera efectiva la información que proporciona, es esencial el uso del pensamiento crítico. Aquí hay algunas razones por las que es necesaria una actitud crítica al interactuar con Chat GPT:

Principio del formulario

Si los datos de entrenamiento están sesgados hacia un género o una raza en particular, Chat GPT podría perpetuar ese sesgo dando respuestas escoradas hacia un determinado prejuicio. Y –para dar otro ejemplo– si Chat GPT proporciona información sobre cuestiones políticas, debemos tener la capacidad de detectar cualquier posible sesgo ideológico. En cualquier caso, es importante tener una comprensión crítica de cómo se entrenó la IA y qué datos se utilizaron para el entrenamiento.

Chat GPT puede generar información incorrecta o inexacta aunque está entrenado para generar información precisa, pues no siempre es infalible. El pensamiento crítico permite evaluar la masa informativa proporcionada por Chat GPT y verificar su precisión antes de aceptarla como verdadera.

Chat GPT puede generar información que carece de contexto, pues no tiene la capacidad de comprender el marco (político, ideológico, epistémico) en el que se proporciona la información. El pensamiento crítico nos permite analizar la información proporcionada por Chat GPT en el contexto pertinente, detectando qué interés vehicula un planteamiento que aparenta ser neutral..

Chat GPT no tiene la capacidad de evaluar la relevancia de la información. El pensamiento crítico nos permite determinar si la información proporcionada por Chat GPT tiene real incidencia en el tema que se esté analizando.

La IA no siempre tiene en cuenta la ética: Chat GPT puede proporcionar respuestas que son técnicamente precisas pero que no tienen en cuenta consideraciones éticas. Por ejemplo, si alguien pregunta “¿cómo puedo ganar más dinero?”, la IA podría proporcionar una respuesta que sugiere explotar a los trabajadores o engañar a los clientes. Por lo tanto, es importante tener una comprensión crítica de la ética y calibrar si las respuestas proporcionadas por Chat GPT son éticamente justificables.

En resumen, el pensamiento crítico nos permite evaluar la precisión, el sesgo, el contexto, la relevancia y las implicaciones éticas de la información proporcionada por Chat GPT, lo que deriva en una toma de decisión más ponderadas.

Final del formulario