MARGINACIÓN, DESIGUALDAD E IA

00.05- Eurídice Cabañes 
El actual desarrollo tecnológico deja afuera a muchísimas personas. Hay personas que están integradas dentro del desarrollo tecnológico, pero casi, casi como esclavos, como todos los extractores, por ejemplo, de coltán que es un material imprescindible para desarrollar nuestras tabletas, teléfonos que desechamos cada año y que están trabajando en condiciones de esclavitud o semi esclavitud. Hay también toda la gente que trabaja con los residuos electrónicos, que también son un montón. 
Hay un montón de personas que están dentro, pero en los márgenes y que están muy afectadas por estos procesos. Pero uno de los que me interesa especialmente, de los que se habla también más a menudo, cada vez más, por suerte, son los sesgos en las tomas de decisiones por inteligencia artificial. 
00.48- Eurídice Cabañes
Y son sesgos que están afectando, por ejemplo, muy fuertemente a las mujeres, porque los algoritmos que cada vez se emplean más, por ejemplo, en búsquedas de empleo o selección de personal, están dejando muchos perfiles de mujeres fuera que no llegan ni siquiera a realizar la entrevista con el entrevistador. 
Igualmente sucede también con los cada vez más recurrentes algoritmos de selección para las publicaciones que las editoriales tienen, que también están dejando mucho de lado las mujeres, incluso a nivel financiero. También los algoritmos que toman decisiones sobre qué créditos o hipotecas se van a conceder conceden siempre niveles mucho más bajos a mujeres que a hombres. Estos sesgos es muy importante ser conscientes de ellos para poder establecer formas más justas de llevar, de llevar a cabo este tipo de decisiones que quizá no deberían pasar por las manos de inteligencias artificiales.

01.37- Katta Spiel
Todo el mundo está marginalizado de alguna forma o en algún momento, pero las personas que están tradicionalmente marginalizadas por el desarrollo de tecnologías son básicamente las mismas personas que están generalmente marginalizadas en la sociedad, porque la tecnología, desafortunadamente, no es una medida utópica para igualar. Al final parece ser más un amplificador de las desigualdades actuales. Lo que tenemos es que, por ejemplo, personas no-binarias están continuamente excluidas al acceso de servicios específicos porque, al no haber formularios en papel, sino formularios digitales que hay que rellenar de manera mucho más precisa, lo que perjudica a las personas que no se identifican con el género masculino, femenino, o con ningún género. Otro ejemplo es cómo personas discapacitadas están continuamente en la situación donde mucha gente que no tiene su discapacidad, deciden lo que es bueno para estas personas e ignoran que tienen sus propios conocimientos y perspectivas sobre lo que necesitan. Incluso en situaciones en las que han sido persistentemente ignoradas, cuando dan su opinión o critican algún aspecto, se les dice: ”Oh, no estás suficientemente discapacitado para hablar por todas las personas discapacitadas.” Pero si no dicen nada, están demasiado discapacitados. Hay esta doble retórica alrededor de las discapacidades, es decir, si dices algo, no eres suficientemente discapacitado y si no dices nada, demasiado.

03.27- Remedios Zafra
Mi primera sensación es que cabe preguntarse ¿a quién está beneficiando la tecnología?, ¿y quién fabrica la tecnología, quién la monta, quién la consume? De esta pregunta sobre a quién margina el actual desarrollo tecnológico siempre, yo me pregunto, margina a quien no forma parte de las estructuras de ideación y de poder en una clara geopolítica de la desigualdad en la ideación, montaje y uso de la tecnología. Sólo hay que ver dónde se ubican y cuáles son los perfiles de quienes crean tecnología y quiénes son los perfiles y dónde se ubican de quienes montan y ensamblan tecnología. Dónde se usan y está normalizada y dónde carecemos de tecnología. Y creo que cuando hablamos de marginación y de desigualdad en el tema tecnológico, la primera idea tiene que ver con la carencia de la tecnología como un bien cotidiano. La tecnología se ha convertido en la nueva infraestructura de la casa, en las venas de la casa y quizá la pandemia reciente hemos visto como quienes no han tenido esa tecnología o las condiciones para esa tecnología, las conexiones que permiten estar conectados. Pienso, por ejemplo, en personas que no han podido teletrabajar cuando ha sido la forma que se les ha propuesto de seguir en el mercado laboral, o niños que no han podido acceder a sus clases porque no tenían ni la tecnología ni la conexión para ello. 
05.19- Remedios Zafra
Aquí estamos hablando de un claro problema de desigualdad, pero creo que hay otro problema de marginación y de desigualdad que a veces nos pasa por alto y que tiene que ver con otro enfoque del problema. Yo creo que aunque las personas sin tecnología son las más perjudicadas, también empiezan a serlo aquellas personas que disponiendo de tecnología no disponen del control de su tiempo para usarla. Y quizá con el ejemplo sería más clara esta idea. Estaba pensando en cómo en Silicon Valley, en los contextos cercanos a Silicon Valley, encontramos hoy en día muchas escuelas donde los líderes tecnológicos que hoy tienen el poder sobre la tecnología y en gran medida también poder sobre el mundo, promueven escuelas y centros formativos donde a los niños no se les permite usar la tecnología durante muchos años. Y esto es muy llamativo y hace necesario preguntarnos hasta qué punto, si quienes la idean y la conocen desde sus capas internas, sospechan de ese poder de adicción y de esas pérdidas que supone el dedicar la mayor parte de nuestro tiempo a la tecnología, ¿qué estamos ganando y que estamos perdiendo cuando observamos que justamente son las personas con menos recursos que cuando tienen tecnología delegan en la tecnología la atención a sus hijos? Y aquí lo vemos cuando observamos que justamente las familias más precarias son las que permiten que sus hijos pasan más tiempo con la tecnología, delegan en ellas, en tanto que en ese tiempo los niños están entretenidos, están tranquilos o están concentrados en algo que normalmente las familias a veces también desconocen mientras ellos están trabajando. 
07.36- Remedios Zafra
Esa delegación en la que la tecnología y esa ocupación del tiempo de vida por parte de la tecnología me parece un asunto muy importante que habla también de esa, de esa nueva marginalidad de la sociedad en relación a la tecnología.

07.57- Daniella DiPaola 
Creo que dentro del área de la tecnología se ven menos mujeres y menos personas negras participando en el diseño de estas tecnologías. Y esto es algo histórico. Podemos ver que mujeres y personas negras han tenido menos influencia en cómo se diseñan y desarrollan las tecnologías. Creo que la educación antes de ir a la universidad es un factor principal para asegurarse que esto cambie en el futuro.. “K-12 education”, asegurarse que los alumnos tienen acceso a la enseñanza sobre diferentes tipos de tecnología, la sensación de poder crear tecnologías por ellos mismos. Y una gran parte es ver que una persona que se parece a ti, está desarrollando tecnología. 

08.52- José Ignacio Latorre
Esencialmente, marginaliza, la palabra marginalizar, marginaliza a la gente de mayor edad. Y luego, en segundo lugar, marginaliza a las personas que no han recibido tanta educación. La inteligencia artificial es un instrumento que pueden utilizar las empresas y que puede ser bien entendido a medida que recibes más educación. 

09.15- Carme Torras
Trobo que marginalitza sobretot als col·lectius (que podríem dir) amb poca formació o recursos, i en particular, a les persones grans que els hi costa entendre com va aquesta tecnologia i utilitzar-la. 

09.15- Catherine D'Ignazio
Quienes están marginados con las nuevas tecnologías son los mismos que están marginados con todo lo demás, como la vivienda, la equidad salarial, el empleo... con todas estas cosas. Lauren Klein y yo, en nuestro libro “Data Feminism”, hablamos de cuántas personas están rechazando los grandes sistemas de datos debido a la forma en que realmente están exacerbando la misma vieja opresión, las mismas viejas desigualdades y discriminaciones que hemos visto en el mundo analógico simplemente se están transcribiendo a nuestros sistemas digitales. 
10.11- Catherine D'Ignazio
Y entonces estos serían, ya sabes, mujeres, mujeres de color en particular, pero también otras poblaciones, poblaciones indígenas, poblaciones LGBTQ, inmigrantes, gente pobre, norte global y sur global. Si rastreamos este tema, uno de los problemas es ver quién produce estas tecnologías. Y estos tienden a ser equipos de ingeniería de software que tienden a ser muy masculinos, generalmente bastante elitistas desde el punto de vista de la clase, y en los Estados Unidos, al menos muy blancos. En el desarrollo de software, las personas de color suelen ser expulsadas, al igual que las mujeres. Y entonces esto realmente presenta muchos desafíos cuando tiene un grupo demográfico muy pequeño, un pequeño grupo de la población que está proporcionando sistemas que se adaptan a toda la población de la nación o, a veces, incluso a todo el mundo. La idoneidad cultural de esos realmente puede verse en cuestión, así como el hecho de que este pequeño grupo de personas tiene un riesgo de privilegio porque ya que tienen tantos privilegios como grupo en realidad no aportan componentes clave y conocimientos del mundo sobre cómo funciona este desde la perspectiva de la desigualdad social. Por lo tanto, no hay forma de abordar la desigualdad social si ni siquiera puede ver esa desigualdad social o no tiene ningún tipo de experiencia directa o experiencia educativa para pensar en ella.