La inteligencia artificial (IA) está hoy presente de forma invisible en prácticamente todos los ámbitos de nuestra sociedad. Su adopción a escala no tiene precedentes y el potencial que nos ofrece para crear un impacto social positivo es inmenso. De hecho, debemos confiar en la IA para abordar los principales desafíos del siglo XXI, desde el cambio climático hasta el envejecimiento de la población. Por ejemplo, puede ayudarnos a detectar tumores en pruebas radiológicas antes de que sean visibles para el ojo humano, reducir el consumo de energía de nuestras ciudades, hogares y negocios, o encontrar patrones en datos científicos que a los humanos les llevaría décadas descubrir.
Una de las aspiraciones es que la IA nos haga más humanos liberándonos de tareas repetitivas, mecánicas y de bajo valor. Tal reclamo es posible pero no está garantizado. De hecho, Si dejamos que la IA tome demasiadas decisiones por nosotros, corremos el riesgo de debilitar nuestras propias capacidades: pensamiento crítico, empatía, creatividad, comprensión lectora, capacidad de escritura… Esto puede llevarnos no sólo a una dependencia silenciosa, sino también a la pérdida de habilidades que nos hacen humanos.
No siempre es necesario recurrir a la IA para resolver un problema o situación. Foto:iStock
No es una solución universal.
Vivimos en una época de certezas. el solucionismo tecnológico, que nos empuja a recurrir a la IA incluso cuando una solución más simple sería más efectiva, comprensible, sostenible y también menos riesgoso. En muchos casos, un buen diseño de proceso o una interfaz clara eliminan la necesidad de entrenar millones de parámetros con enormes cantidades de datos y un inmenso consumo de energía.
Una pregunta común es si la IA es más inteligente que los humanos. Sin duda no lo es. Los sistemas de inteligencia artificial actuales son excelentes para realizar tareas muy específicas, como clasificar imágenes, traducir de un idioma a otro, predecir patrones y generar texto plausible. Pero sólo saben cómo realizar esta tarea: se trata de la llamada “inteligencia artificial específica”.. Los sistemas que tanto nos impresionan carecen, entre otras cosas, de comprensión contextual, sentido común, emociones, Adaptabilidad, conciencia… Son programas informáticos, sin experiencia de vida en el mundo físico.
LEER TAMBIÉN
Y si bien sentimos la necesidad de compararnos, un debate más productivo es preguntar cómo podemos aprovechar las capacidades de la IA para ayudar a los humanos a alcanzar nuestro máximo potencial.
El debate se está intensificando con la aparición de técnicas de IA generativa, capaces de crear de forma automática y casi instantánea imágenes, vídeos, música, texto, códigos o incluso moléculas. ¿Puede la inteligencia artificial ser creativa? El contenido que produzcas puede ser original y sorprendente, pero no se basa en tus propias experiencias, emociones o intenciones. Es el resultado del procesamiento y recombinación de patrones aprendidos en millones de trabajos anteriores.
La creatividad humana, por otra parte, está orientada a la experiencia: lleva el peso de nuestras historias, ideas, emociones, deseos o miedos. No olvidemos que la expresión creativa humana es mucho más que trabajo; También es el proceso, el mensaje, la intención, el contexto… elementos fundamentales que no están presentes cuando un algoritmo de IA generativa produce un poema, una canción o un diseño gráfico, por sofisticado que sea.
Varios sistemas de IA ya son capaces de producir imágenes y vídeos. Foto:iStock
El entusiasmo colectivo con el que hemos adoptado la inteligencia artificial en nuestra sociedad suele ir acompañado de la peligrosa idea: que la IA siempre significa progreso. La IA que optimiza la logística del almacén puede ser útil, pero si lo hace apoyándose en una vigilancia excesiva, consumiendo enormes cantidades de recursos y precarizando la mano de obra humana, ¿puede eso considerarse un progreso? En última instancia, la IA no debe evaluarse por lo impresionante que es su desempeño, sino por su impacto en la sociedad.
Además, los sistemas de inteligencia artificial no son perfectos. Tienen importantes limitaciones que, entre otras cosas, tienen un impacto directo en los derechos fundamentales de las personas. como la discriminación, los prejuicios y los estereotipos algorítmicos; la falta de transparencia, diversidad y veracidad; invasión de la privacidad; la excesiva huella de carbono; la manipulación subliminal de nuestro comportamiento; la difícil reproducibilidad; y brechas de seguridad.
LEER TAMBIÉN
Tomemos, por ejemplo, el desafío de la discriminación. Los sistemas de IA actuales se basan en enormes cantidades de datos, que en muchos casos reflejan nuestras desigualdades y sesgos. Si no corregimos los prejuicios, estereotipos y patrones de discriminación que existen en la sociedad, Los algoritmos de IA no sólo los reproducirán, sino que en muchos casos incluso los amplificarán.
La discriminación automatizada no es más aceptable que la discriminación humana; De hecho, puede ser más peligroso debido a su inmensa escalabilidad y objetividad matemática aparente, pero no real. Aparte de eso, Las consecuencias negativas derivadas del uso de la IA no son sólo el resultado de negligencia o mal diseño, Pero también pueden ser intencionales, por ejemplo cuando la IA se utiliza para manipular elecciones o para la vigilancia masiva de la población. Pero en todos los casos el daño es real.
El código “Faten”
La naturaleza transversal de la IA, es decir Su capacidad para utilizarse prácticamente en todos los ámbitos de la sociedad le confiere un poder inmenso, Esto nos obliga a preguntarnos cómo podemos mitigar los riesgos mediante una investigación responsable, regulaciones sólidas, auditorías independientes y la integración de los derechos digitales desde el principio. Para recordarnos qué características debemos exigir a los sistemas de IA, me gusta utilizar el acrónimo en inglés Faten:
1. F para justicia o la justicia. Exigir garantías de no discriminación mediante el uso de sistemas de IA.
2. a autonomía o autonomía. Según este valor, cada persona debe tener la capacidad de tomar sus propias decisiones sobre sus pensamientos y acciones. Sin embargo, hoy podemos crear modelos informáticos de nuestros deseos, necesidades, personalidad y comportamiento, influyendo sutilmente en nuestras decisiones y acciones. Por lo tanto, Deberíamos asegurarnos de que los sistemas inteligentes tomen decisiones respetando siempre la autonomía y la dignidad humanas.
LEER TAMBIÉN
La A es demasiado responsabilidad o responsabilidad. Eso significa, Sea claro al asignar responsabilidad por las consecuencias de las decisiones algorítmicas. y de aumento o aumento, de modo que los sistemas de IA se utilicen para aumentar o complementar la inteligencia humana, no para reemplazarla.
3.T de Confianza o confianza. La tecnología necesita un entorno de confianza entre sus usuarios, que cada vez más delegan sus vidas a los servicios digitales. Para ello, se deben cumplir tres condiciones: competencia, es decir, la capacidad de llevar a cabo con éxito la tarea prometida; confiabilidad, es decir, competencia mantenida en el tiempo; y honestidad.
De ahí la T también transparencia o transparencia sobre la posibilidad de comprender un modelo o un proceso computacional. Las decisiones sobre algoritmos pueden ser opacas por tres razones: intencionalmente, para proteger la propiedad intelectual de los creadores de esos algoritmos; por desconocimiento por parte de los usuarios, que les impide comprender cómo funcionan los modelos; o porque ciertos métodos de aprendizaje informático son extremadamente complejos. También es importante que los sistemas de IA sean transparentes sobre los datos que recopilan y analizan.y con qué fines y en relación con qué situaciones las personas interactúan con sistemas artificiales (por ejemplo, chatbots) o con otras personas.
LEER TAMBIÉN
4. E para Capacitación o educación. Debemos invertir en educación a todos los niveles, Enseñar pensamiento computacional desde primer grado y desarrollar el pensamiento crítico.Creatividad y habilidades de inteligencia social y emocional. La adopción masiva de herramientas de inteligencia artificial generativa para texto, música, audio o video está desafiando los modelos tradicionales de enseñanza y evaluación, ya que cualquier estudiante puede crear documentos sobre prácticamente cualquier tema en segundos, sean veraces o no.
Pero La falta de precisión y veracidad de estos sistemas hace necesario desarrollar una mente crítica y validar y contrastar la información. con fuentes acreditadas y ricas. La educación también es necesaria para los ciudadanos, los trabajadores, el sector público y los representantes políticos.
La E también lo es Caridad o caridad, es decir, Maximizar el impacto positivo del uso de la inteligencia artificialcon sostenibilidad, diversidad, honestidad y veracidad.
Y justicia, ya que los principios de universalización del conocimiento y democratización del acceso a la tecnología están hoy en entredicho, en gran medida por la situación de dominio extremo de las grandes empresas tecnológicas estadounidenses y chinas. Si queremos maximizar el impacto positivo del desarrollo tecnológico, y en particular de la inteligencia artificial, en la sociedad -dado que estos modelos necesitan datos para aprender- Deberíamos pensar en nuevos modelos de propiedad, gestión y regulación de datos. Sin embargo, la complejidad en su aplicación práctica pone de relieve la dificultad de definir e implementar el concepto de “propiedad” cuando se trata de un activo intangible, distribuido, diverso, creciente, dinámico e infinitamente reproducible a un costo prácticamente nulo.
5. No. No hacer daño o no malo. El objetivo es minimizar los efectos negativos que pueden surgir del uso de decisiones algorítmicas. Por eso es importante Aplicamos el principio de precaución y garantizamos la seguridad, fiabilidad y reproducibilidad. de los sistemas, manteniendo siempre la privacidad de las personas.
LEER TAMBIÉN
Sólo respetando estos requisitos podremos avanzar y conseguir una inteligencia artificial socialmente sostenible por y para las personas que nos ayude a desarrollar nuestro potencial y proteger lo que no queremos perder. Porque el verdadero progreso no será el que nos sorprenda con algoritmos más rápidos o modelos más grandes, sino el que nos impresione nos permite vivir mejor, con más justicia, más libertad y prosperidad y sobre todo sin perder lo que nos hace humanos.