​Sesgo en la IA

​https://www.youtube.com/watch?v=nywY8J3inYc

​Caso de Amazon

​En 2014, Amazon implementó un sistema algorítmico para la selección de personal. Sin embargo, se descubrió que el sistema tenía un sesgo de género al favorecer a candidatos masculinos y penalizar los currículos que mencionaban la palabra "mujer".

Esto reveló un problema de sesgo en el proceso de contratación de la empresa.

​Caso de DALL-E y Stable Diffusion

​DALL-E y Stable Diffusion son modelos de IA utilizados para generar imágenes a partir de descripciones en lenguaje natural que le dan los usuarios.

En una universidad de Leipzig examinaron los sesgos en estos dos modelos, ya que tienden notoriamente a amplificar los estereotipos dañinos.

​"Gerente" por Stable Diffusion.

​"Gerente Compasivo" por Stable Diffusion.

​"Nativo Americano" por DALL-E 2 y Stable Diffusion.

​Caso de DALL-E y Stable Diffusion

​Las empresas responsables de los modelos, han introducido correcciones para mitigar los sesgos en los sistemas, como bloquear ciertas indicaciones que generan imágenes ofensivas.

Sin embargo, parte del problema radica en que estos modelos se entrenan principalmente con datos centrados en los Estados Unidos, lo que refleja los sesgos y valores de la cultura estadounidense.

​Caso de clonación de voz para una estafa

​En abril del año pasado, unos delincuentes en Arizona, Estados Unidos, pidieron el rescate de una joven que estaba de viaje utilizando su voz clonada con IA para llamar a su madre.

La policía fue capaz de avisarle a que su hija estaba a salvo antes de que realizara la transferencia.

A principios de 2023, algunas compañías que trabajan con IA, como ElevenLabs, decidieron tomar acciones al respecto, como hacer que su recurso de simulación de voz dejara de ser gratuito.

​Caso de IA utilizada en foros de medicina

​En un estudio realizado por universidades de EEUU se comparó 195 preguntas respondidas por chatbots y médicos calificados, y fueron evaluadas por profesionales de la salud.

Se encontró que el 78.6% de las evaluaciones favorecieron las respuestas generadas por los chatbots.

Los chatbots superaron a los médicos en estos aspectos, proporcionando respuestas más extensas y empáticas.

​Otros casos de buen uso de la IA

• Detección temprana de enfermedades.

• Traducción automática.

• Prevención de fraudes financieros.

​Sobre regulaciones de las IAs como Chat GPT

https://www.youtube.com/watch?v=RP1nnOX7h60

La Inteligencia Artificial por sí misma no es buena ni mala, sino que se le puede dar un buen o mal uso.

Para evitar sesgos, es crucial tener un gran numero de datos de entrenamiento, que sean realmente representativos del grupo.

También es bueno que el equipo que desarrolla la IA sea diverso para que puedan detectar sesgos más fácilmente y evitar casos de discriminación.

​Conclusiones

​Inteligencia Artificial

Laboratorio de Implicancia Social Talleres OCI Labs 2024
Clase 7

​Quiz de Cierre

Veamos qué aprendimos hoy en la Clase 7

​Quiz de Cierre

Veamos qué aprendimos hoy en la Clase 7