De igual forma, como se pueden auditar los estados financieros de una empresa, debería hacerse con los las fuentes que generar diversos productos fabricados por medio de las herramientas de la Inteligencia Artificial.
Así lo sostiene el profesor de Informática de la Universidad de Pensilvania, Danaé Metaxa, quien acaba de publicar un libro abierto, para el uso público, “Auditing AI”, para ayudar a descifrar lo que se ha considerado la caja negra de la IA.
En una de sus investigaciones, con su grupo de trabajo, sobre un tema de alta sensibilidad como es el relacionado co el aborto, en los Estados Unidos, encontró que el grado de confiabilidad de la información generada alrededor del tema, variaba sustancialmente según el Estado, donde se explorara. Mientras el grado de precisión arrojada por chatbots como ChatGPT, mostraba un promedio del 78%, a nivel nacional, en Estados como Dakota del Norte, la veracidad apenas alcanzaba un 44 por ciento; en contraste, en Estados como Vermont, el nivel de certeza de la información alcanzaba un 99%.
Señala Metaxa, que debería ser posible poder auditar las bases de datos sobre las cuales se construyen campañas de publicidad en línea, o precios minoristas, o mensajes políticos que se difunden a través de los medios y redes sociales, a fin de desentrañar la forma en que podrían ser estar manipulados.
Indicó que ya hay unos avances en la materia para implementar leyes que obliguen a las empresas de IA, a revelar su información como es el paso dado en la ciudad de Nueva York, donde una legislación obliga a revelar los algoritmos utilizados en procesos de contratación de personal.
Fuente: Universidad de Pensilvania
Tu Opinión es importante