Una iniciativa pionera que permite la inclusión y la igualdad
Aviso legal: Esta publicación es una traducción comunitaria hecha por un miembro de la comunidad de Oasis Network. Se hacen rigurosas comprobaciones para proporcionar traducciones precisas, pero pueden estar sujetas a errores u omisiones. Oasis Network no se hace responsable de la precisión, confiabilidad o actualidad de la información traducida.
Publicación original en inglés: Oasis Labs Partners with Meta to Assess Fairness for its AI Models using Cutting-edge Privacy Technologies
Estamos encantados de anunciar nuestra asociación con Meta, y el lanzamiento de una plataforma para evaluar la igualdad en los productos de Meta, protegiendo al mismo tiempo la privacidad de las personas. Como socio tecnológico de Meta, Oasis Labs construyó la plataforma que utiliza Secure Multi-Party Computation (SMPC) para proteger la información cuando Meta pida a los usuarios en Instagram a realizar una encuesta en la que pueden compartir voluntariamente su raza o etnia.
El proyecto hará avanzar la valoración de la igualdad en los modelos de IA, lo que repercutirá positivamente en la vida de las personas de todo el mundo y beneficiará a la sociedad en su conjunto. Esta plataforma, la primera en su género, desempeñará un papel fundamental en una iniciativa que supone un paso importante para identificar si un modelo de IA es justo y permitir una corrección adecuada.
¿Cómo evaluará la plataforma la igualdad de los modelos de IA?
Los equipos de Inteligencia Artificial Responsable, Igualdad de Instagram y Derechos Civiles de Meta están realizando una encuesta fuera de la plataforma para las personas que usan Instagram. Se pedirá a los usuarios que compartan su raza y/o etnia de forma voluntaria.
Los datos, recogidos por un proveedor de encuestas externo, se compartirán en secreto con terceros de manera que ni los intermediarios ni Meta puedan conocer las respuestas del usuario a esa encuesta. A continuación, los intermediarios realizan la medición utilizando datos de predicción encriptados de modelos de IA, que son compartidos criptográficamente por Meta. Los resultados combinados y anónimos de cada facilitador son reconstituidos por Meta en los resultados globales de la evaluación de igualdad. Las técnicas criptográficas utilizadas por la plataforma permiten a Meta medir el sesgo y la equidad, al tiempo que proporcionan a los individuos que contribuyen con datos de medición demográfica sensibles altos niveles de protección de la privacidad.
Para obtener más información sobre la plataforma, sus objetivos y su lanzamiento, lee aquí.
https://cdn.embedly.com/widgets/media.html?src=https%3A%2F%2Fwww.youtube.com%2Fembed%2FTCWRETZkb9M%3Ffeature%3Doembed&display_name=YouTube&url=https%3A%2F%2Fwww.youtube.com%2Fwatch%3Fv%3DTCWRETZkb9M&image=https%3A%2F%2Fi.ytimg.com%2Fvi%2FTCWRETZkb9M%2Fhqdefault.jpg&key=a19fcc184b9711e1b4764040d3dc5c07&type=text%2Fhtml&schema=youtube
Una visión de inclusión global y igualdad en los modelos de IA en beneficio de millones de personas.
Meta y Oasis comparten una visión común en torno a la IA y el uso responsable de los datos.
Las técnicas criptográficas que se están empleando en la plataforma, a la escala a la que se utilizarán, no tienen precedentes. Este es el comienzo de un nuevo camino.
“Buscamos asegurar que la IA en Meta beneficie a las personas y a la sociedad, lo que requiere una profunda colaboración, tanto interna como externa, a través de un conjunto diverso de equipos”, dijo Esteban Arcaute, Director de IA Responsable en Meta. “La metodología Secure Multi Party Compute es un enfoque centrado en la privacidad, desarrollado en colaboración con Oasis Labs, que permite un trabajo de medición crucial sobre la justicia, manteniendo la privacidad de las personas en primer plano mediante la adaptación de métodos de preservación de la privacidad bien establecidos.”
Junto con Meta exploraremos otros enfoques de preservación de la privacidad para estudios de sesgo más complejos. Dado que el deseo es llegar a miles de millones de personas en todo el mundo, esperamos explorar nuevos usos de las tecnologías emergentes de la Web3, apoyadas por las redes de blockchain. El objetivo es proporcionar una mayor accesibilidad, auditabilidad y transparencia globales en torno a la realización y recopilación de datos de encuestas, así como su uso en la medición.
La profesora Dawn Song, fundadora de Oasis Labs, dijo: “Estamos muy contentos de ser el socio tecnológico de Meta en esta iniciativa innovadora para evaluar la equidad en los modelos de IA, protegiendo al mismo tiempo la privacidad de los usuarios, utilizando técnicas criptográficas de vanguardia. Se trata de un uso sin precedentes de estas técnicas para medir a gran escala la igualdad de los modelos de IA en el mundo real. Estamos deseando trabajar con Meta para construir hacia una IA responsable y un uso responsable de los datos para una sociedad más justa e inclusiva.”
Labor y misión de Oasis Labs
El uso y la propiedad responsable de los datos siempre han estado en la vanguardia de nuestra visión central. Entendemos que en un mundo Web3 ninguna entidad puede dar por sentado los datos de los usuarios, y estamos creando tecnologías para asegurar que la propiedad y el control de los datos esté en manos de los individuos.
Mediante el uso de blockchain, computación confidencial y tecnologías de preservación de la privacidad, tenemos la visión de construir plataformas y productos que promuevan la protección de la privacidad individual, la gobernanza de los datos y el uso responsable de los mismos. Las tecnologías de Oasis se centran en facilitar a los desarrolladores la incorporación del almacenamiento, la gobernanza y la computación de datos con preservación de la privacidad.
La descentralización y la Web3 tienen la capacidad de llegar a individuos de todo el mundo. Cuando se combinan con la privacidad de los datos, esto desbloquea la capacidad de las empresas para llegar a una audiencia global, obtener un uso que preserve la privacidad de los datos altamente sensibles, y construir mejores productos que traten a todos por igual.
Permanece conectado
Si quieres tratar posibles asociaciones y oportunidades de colaboración con Oasis Labs, ponte en contacto con nosotros aquí y mantente al día siguiendo nuestra cuenta de Twitter y suscribiéndote a nuestro boletín.
Si quieres estar al día de las novedades de Oasis Network, únete a Discord, síguenos en Twitter y suscríbete al boletín.