RETOS ÉTICOS IA

00.07- Catherine D'Ignazio
Cada vez vemos más tecnologías inteligentes... o, a veces, no son tan inteligentes...pero vemos que las tecnologías inteligentes entran en todos los ámbitos de nuestras vidas. Y hay algunas que están entrando en nuestras vidas de maneras que son realmente visibles, como tener algo tipo Alexa en nuestra casa con la que podemos hablar y decirles que nos compren cosas. Pero también hay tecnologías que entran de maneras que no son tan visibles para nosotros. Como algoritmos que deciden si obtenemos un préstamo o no o deciden algo en relación con nuestro destino en el sistema de justicia penal. 
00.50- Catherine D'Ignazio
Y estas son cosas que son cada vez más frecuentes, pero que tampoco son necesariamente visibles para nosotros, porque solo estamos recibiendo el resultado final de este tipo de decisiones que afectan nuestras vidas, pero no tenemos mucha transparencia en los sistemas que produjeron esas decisiones. Por eso, creo que uno de los desafíos más urgentes en los que hay que pensar en este momento es la opacidad de los algoritmos y de los sistemas de información, especialmente cuando les pedimos que tomen decisiones importantes sobre las vidas humanas. Y estas son cosas muy desafiantes para automatizar. Y debemos pensar cada vez más en cuestiones de prejuicios. Al menos para mí y para el trabajo que hago, los tipos de prejuicios que más me preocupan tienen que ver con la equidad y la justicia en todos los grupos sociales. Es decir, prejuicio de género, prejuicio racial, prejuicio de clase o prejuicio contra la gente pobre, este tipo de daños basados ​​en grupos. Entonces, el trabajo que hago está un poco menos relacionado con la privacidad individual, aunque eso es muy importante, sino que miro realmente a cómo estamos integrando estas desigualdades existentes en nuestros sistemas digitales.

02.21- Remedios Zafra
Me interesan especialmente asuntos como como la gestión de los datos, el derecho a la intimidad, pero también cada vez me parece más importante que a nivel a nivel ético social, debe considerarse la adicción que generan las pantallas. Me parece que esto no es algo baladí y que lo vemos muy claro en relación con los videojuegos. Pero, pero en la vida online también también existe este enganche, esta adicción. Y creo que hay una intencionalidad en estas inercias que son alimentadas por la industria cuando se incentiva la ganancia económica por encima de del bien social. Y por otra parte, también considero que la base algorítmica y tecnológica sobre la que construimos la cultura digital, en gran medida parece aliada y mantenedor de un sistema donde casi siempre vemos las ventajas que supone automatizar procesos y rutinas. Pero pasamos por alto los riesgos que supone para la construcción del sujeto libre. En tanto se tiende a delegar en la tecnología juicio, curiosidad, concentración, toma de decisiones.

03.38- Katta Spiel 
Creo que lo primero es pensar en cómo queremos hablar de estas cosas. Creo que es una cuestión ética porque hablamos de tecnologías inteligentes y esto implica aplicar inteligencia a una tecnología sin considerar que esta inteligencia está creada y construida por un específico tipo de personas. Si miramos después quiénes son estas personas que crean estas tecnologías, la pregunta se convierte en quién tiene acceso a crearlas, quién decide cuál es la tecnología apropiada para alguien y quién tiene el conocimiento para decir si es la tecnología apropiada para mí. Entonces caemos en una variedad de trampas.

04.22- Eurídice Cabañes
Creo que hay dos retos principales. El primero es seguir teniendo el control de las tecnologías en lugar de estar controlados por ellas, porque si cada vez estamos delegando más nuestra inteligencia en las inteligencias artificiales, dejando que decidan cuál es el mejor recorrido para ir a mi casa o quiénes van a ser los amigos con los que me relaciono en las redes sociales, o qué información es importante cuando busco en buscadores online. Pues al final estamos dándoles como mucho poder a compañías que tienen estos sistemas de inteligencia artificial, que están tomando un montón de decisiones por nosotros. Entonces, creo que uno de los retos es tener tecnologías que nos sirvan en lugar de tecnologías que nos controlen. Y otro de los grandes retos precisamente tiene que ver también con esto, que es la transparencia y el control sobre estas tecnologías. Si ahora mismo todo el todo el poder sobre las tecnologías está en manos de cuatro grandes empresas. Son muy pocas y tienen mucho, mucho poder. Creo que un gran reto es ver formas de descentralizar ese poder, de redistribuir la otra vez entre todas las personas que usamos las tecnologías y que tengamos también como voz y voto en cómo van a funcionar, que podamos acceder a cómo están hechas, a qué algoritmos son los que toman las decisiones, qué bases de datos se han utilizado para entrenarlos y poder saber mejor cómo funcionan y tomar decisiones también sobre su propio funcionamiento.

05.50- José Ignacio Latorre
Bueno, creo que el gran reto es conseguir que la adopción de nuevas tecnologías, que es imparable, es inexorable, sea hecha de una forma justa, es decir, que atienda por igual a las personas de la sociedad, que no deje atrás a ningún colectivo y que no se utilice únicamente con fines comerciales. 

06.11 Daniella DiPaola
Creo que el aspecto más importante es que ponemos mucha confianza y autoridad en estas tecnologías. Las vemos como entes objetivos y siempre correctos. Y creo que uno de los desafíos más grandes en este momento es ayudar a la gente a ver que las tecnologías pueden tomar decisiones incorrectas. Pueden tener diversos efectos en la sociedad. Y conseguir que la gente cambie su concepto de la tecnología de algo que es neutral, siempre correcto, a algo que es más subjetivo y basado en los valores de la gente que las han creado. Ahora estamos viendo que hay un tipo de personas que están creando tecnologías y otros grupos que no tienen las mismas oportunidades de crear estas tecnologías.

06.59 Carme Torras
Cal molta formació tant dels beneficis com dels riscos d'aquestes tecnologies digitals i de com en podem fer un bon ús. Ha de ser una formació que sigui molt accessible i que fomenti el pensament crític a tots els nivells: a nivell escolar, a nivell universitari, a nivell dels desenvolupadors d'aquesta tecnologia i de la societat en general. Hi ha l'exemple de Finlàndia, que potser coneixeu, que van fer un programa gratuït per a tota la població tant de les tècniques d'intel·ligència artificial com de quins riscos tenia. Ha tingut molt èxit i ara s'ha traduït a l'anglès i està sent utilitzat arreu.