Skip to main content
  1. Casa
  2. Computación

Cómo es la base de datos de riesgos de IA creada por el MIT

Digital Trends Español

El MIT acaba de estrenar un documento esencial para instituciones laborales, gubernamentales, públicas y estudiantiles sobre los riesgos que conlleva el uso de IA y una categorización de potenciales peligros.

Recommended Videos

El Repositorio de Riesgos de IA, es una base de datos completa de cientos de riesgos documentados que plantean los sistemas de IA. El repositorio tiene como objetivo ayudar a los responsables de la toma de decisiones en el gobierno, la investigación y la industria a evaluar los riesgos cambiantes de la IA.

Como dice la gente del MIT: «Una completa base de datos viva de más de 700 riesgos de IA categorizados por su causa y dominio de riesgo».

El Repositorio de Riesgos de IA consta de tres partes:

  • La base de datos de riesgos de IA captura 700+ riesgos extraídos de 43 marcos existentes, con citas y números de página.
  • La taxonomía causal de los riesgos de la IA clasifica cómo, cuándo y por qué se producen estos riesgos.
  • La Taxonomía de Dominios de Riesgos de IA clasifica estos riesgos en siete dominios (por ejemplo, «Desinformación») y 23 subdominios (por ejemplo, «Información falsa o engañosa»).

El repositorio de riesgos de IA proporciona:

  • Una visión general accesible del panorama de riesgos de la IA.
  • Una fuente de información actualizada regularmente sobre nuevos riesgos e investigaciones.
  • Un marco de referencia común para investigadores, desarrolladores, empresas, evaluadores, auditores, responsables políticos y reguladores.
  • Un recurso para ayudar a desarrollar investigaciones, currículos, auditorías y políticas.
  • Una manera fácil de encontrar riesgos e investigaciones relevantes.
The AI Risk Repository explainer video

«Comenzamos nuestro proyecto con el objetivo de comprender cómo las organizaciones están respondiendo a los riesgos de la IA», dijo Peter Slattery, postdoctorado entrante en MIT FutureTech y líder del proyecto, al sitio VentureBeat. «Queríamos una visión completa de los riesgos de la IA para utilizarla como lista de comprobación, pero cuando analizamos la literatura, descubrimos que las clasificaciones de riesgos existentes eran como piezas de un rompecabezas: individualmente interesantes y útiles, pero incompletas».

El repositorio utiliza un sistema de clasificación bidimensional. En primer lugar, los riesgos se clasifican en función de sus causas, teniendo en cuenta la entidad responsable (humana o de IA), la intención (intencionada o no intencionada) y el momento del riesgo (antes o después del despliegue). Esta taxonomía causal ayuda a comprender las circunstancias y los mecanismos por los que pueden surgir los riesgos de la IA.

En segundo lugar, los riesgos se clasifican en siete dominios distintos, que incluyen la discriminación y la toxicidad, la privacidad y la seguridad, la desinformación y los actores malintencionados y el uso indebido.

El repositorio de riesgos de inteligencia artificial está concebido como una base de datos dinámica. Está disponible para el público y las organizaciones pueden descargarla para su uso personal. El equipo de investigación tiene previsto actualizar la base de datos regularmente con nuevos riesgos, descubrimientos investigativos y tendencias en desarrollo.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
¿Qué es el proyecto Stargate?: multimillonarios de la tecnología se unen a Trump
Trump stylized image

Segundo día de mandato oficial de Donald Trump y el presidente de Estados Unidos presentó el proyecto Stargate, que, según afirman, creará nuevas y maravillosas innovaciones en inteligencia artificial.

Flanqueado por el CEO de OpenAI, Sam Altman, el CEO de SoftBank, Masayoshi Son, y el CTO de Oracle, Larry Ellison, el mandamás estadounidense habló en una conferencia de prensa en la Sala Roosevelt de la Casa Blanca.

Leer más
¿The Brutalist perderá el Oscar a mejor película por culpa de la IA?
the brutalist trailer

Vaya polémica está generando The Brutalist, ya que recientes declaraciones del editor de la cinta itiendo el uso de IA, está teorizando que los Premios Oscar podrían darle la espalda a la película protagonizada por Adrien Brody.

La película, que se espera que obtenga muchas nominaciones a los Premios de la Academia cuando se revelen a finales de esta semana, cuenta la historia de László Tóth (Adrien Brody), un arquitecto judío húngaro que sobrevive al Holocausto y se muda al otro lado del Atlántico para perseguir el sueño americano.
¿Cuál es la polémica de IA de The Brutalist?
En declaraciones a RedShark News, el editor de The Brutalist, Dávid Jancsó, reveló que se utilizó la IA generativa para mejorar la pronunciación del húngaro, ya que la gran mayoría de los diálogos de la película están en húngaro.

Leer más
Elon Musk dice que el mundo se está quedando sin datos para la IA
escuela elon musk texas profesor

El CEO de Tesla/X, Elon Musk, parece creer que entrenar modelos de IA con datos creados únicamente por humanos se está volviendo imposible. Musk afirma que hay una creciente falta de datos del mundo real con los que entrenar modelos de IA, incluido su chatbot Grok AI.

"Ahora hemos agotado básicamente la suma acumulada del conocimiento humano... en el entrenamiento de IA", dijo Musk durante una entrevista en vivo realizada por el presidente de Stagwell, Mark Penn. "Eso sucedió básicamente el año pasado".

Leer más