Tessera
Folgen

Carlos Castillo

@chato.tech.lgbt.ap.brid.gy

ICREA Professor at UPF in Barcelona, leading the Web Science and Social Computing group. Algorithmic fairness, social computing, big crisis data. (Nonbinary: they/them) 🌉 bridged from ⁂ https://tech.lgbt/@chato, follow @ap.brid.gy to interact

28 Posts12 Follower0 Folgt
Carlos Castillo@chato.tech.lgbt.ap.brid.gy · 5mo ago

"El riesgo real de la IA no es el de las películas, sino el de un sistema que te niega un empleo o una libertad condicional" https://www.publico.es/ciencias/riesgo-real-ia-peliculas-sistema-te-niega-empleo-libertad-condicional.html

Carlos Castillo: "El riesgo real de la IA no es el de las películas, sino el de un sistema que te niega un empleo o una libertad condicional"

El equipo de este científico de datos investiga la forma en que sistemas como RisCanvi provocan discriminaciones.

publico.es

Carlos Castillo@chato.tech.lgbt.ap.brid.gy · 6mo ago

Acerca de la propuesta en España de prohibir el acceso a medios sociales a menores de edad https://chato.cl/life/es/lo-que-no-podemos-controlar-lo-prohibimos/

_Extracto de laentrevista publicada en El Punt Avui, 18 febrero 2026._ Carlos Castillo es responsable del grupo de investigación en computación responsable y social del departamento de ingeniería de la UPF. En primer lugar, miramos cómo se podría comprobar la edad sin poner en peligro la privacidad o la seguridad. Una posibilidad viene a través de la Fábrica Nacional de Moneda y Timbre y la emisión de unos códigos que identifican como adulto y que se podrían comprar en el estanco, con el DNI — sin necesidad de introducir el documento en ninguna parte. El número permitiría entrar allí donde se solicite mayoría de edad. “Tiene la ventaja de que puede servir también para controlar el acceso a contenidos pornográficos, por ejemplo. Y todo sin tener que desvelar quiénes somos, tanto en los espacios de internet como para el Estado, que no debe saber por dónde navegamos.” En el Estado no se dispone del sistema citado, pero la implantación no sería difícil. Ahora viene la segunda parte: ¿se necesita una prohibición? Carlos Castillo dice que no. En primer lugar, habla de discriminación contra grupos minorizados, como los jóvenes LGBT, que tienen dificultades para encontrar a su comunidad, sobre todo en los pueblos, y que tienen una tasa de suicidio superior a la población general. “Encuentran su tribu a través de las redes.” ¿Y el acoso? ¿Y los haters? “Eso es importante: se está tratando la red como un conjunto de peligros cuando la red también es, de hecho, un reflejo de la sociedad. Internet debería ser un espacio seguro para todos. Se está diciendo que hay unos espacios peligrosos y como no podemos controlarlo mejor lo prohibimos” Castillo comenta paralelismos. Por ejemplo, la falta de seguridad en la calle, que ha llevado a algunos países a imponer toques de queda para menores de 16 años. “Hay una renuncia por parte del Estado a su rol de proteger. En caso de que nos ocupa, el Estado renuncia al deber de hacer que internet sea seguro para todos. Todo ello se parece a acompañar a los niños hasta cierta edad para que no vayan solos por la calle. También es necesario acompañar en el uso de la tecnología hasta cierta edad.” Al final, dice, los chavales consiguen lo que quieren, lo sabemos. De acuerdo, pero ¿no sería mejor evitarles la exposición al peligro, directamente? ¿Qué dices de las redes como altavoz de los ultra? “Franco llegó al poder sin ayuda de las redes sociales”. “Mira, yo he sobrevivido a ocho o nueve pánicos morales. Un pánico moral suele referirse a la introducción de una nueva tecnología y el uso por parte de los jóvenes. La radio y la televisión pasaron la fase de ser pánicos morales ya finales de los setenta y principios de los ochenta había debates sobre cómo la televisión estaba dañando irreversiblemente el cerebro de los niños. Probablemente yo soy uno de esos niños. Quizás no tenemos la perspectiva para darnos cuenta de que es cíclico. ¿Recordáis cuando Wikipedia era la enemiga del conocimiento?” Entrevista completa (en Catalán) en El Punt Avui, 18 Febrero 2026 »

chato.cl

Carlos Castillo@chato.tech.lgbt.ap.brid.gy · 9mo ago

Participaré en @sciencequeers este viernes 21 de noviembre, a las 18:30. Será una charla breve de 15 minutos sobre equidad algorítmica, y compartiré con otres cientifiques que estudian #genética #biodiversidad y otros temas. 📍Facultad de Química de la UB, Aula Enric Casassas.

Bild
Carlos Castillo@chato.tech.lgbt.ap.brid.gy · last yr.

You know what's f'ed up? Europeans telling you that as a Latinx migrant you should be happy that you can be trans in Europe - after Christianity destroyed any pre-colonial acceptance of trans people in Latin America.

Carlos Castillo@chato.tech.lgbt.ap.brid.gy · 2y ago

Working paper: "Proxy Discrimination Risks in Hiring: A Qualitative Analysis of a Set of Real CVs" --- research based on a unique set of donated CVs in which we can observe how protected characteristics manifest as proxies https://papers.ssrn.com/sol3/papers.cfm?abstract_id=5048771

Proxy Discrimination Risks in Hiring: A Qualitative Analysis of a Set of Real CVs

This study addresses a significant gap in hiring discrimination research by analyzing real-world CVs to uncover the impact of embedded social markers on hiring

papers.ssrn.com