Uno de los grandes problemas de la Inteligencia Artificial (IA) es que puede utilizarse maliciosamente para desinformar, generar fake-news o como una herramienta para evitar que los alumnos se eximan de hacer sus deberes de manera correcta.
Sin embargo, una empresa israelí desarrolló una plataforma que permite controlar estos aspectos negativos de la IA. Cyabra creó botbusters.ai, una herramienta que utiliza la propia Inteligencia Artificial para determinar si ciertas imágenes o textos fueron generados utilizando IA.
Es una herramienta sencilla, que pueden utilizar los docentes para saber si sus alumnos utilizaron IA para completar sus trabajos. Pero también, es un sistema útil para reconocer a un catfish o una imagen falsa con el objetivo de desinformar.
El algoritmo de botbuster.ai se entrena constantemente para mejorar la precisión a la hora de brindarle al usuario la probabilidad estimada de la falsedad del contenido.
Uno de los objetivos de la startup es la de exponer el riesgo online a las instituciones, los gobiernos, y también a los usuarios normales. Cyabra trabajó en el pasado con el gobierno taiwanés, para prevenir la información falsa acerca de la vacuna para el COVID-19. Y también con el Departamento de Estado de Estados Unidos para garantizar la seguridad de las elecciones.
«conversando» con AI me dijo que los territorios ocupado de Gaza…. ahi le recriminé que Israel se habia retirado en 2005… y me pidio disculpas, que se habia «equivocado»
Cuando AI encuentra en la red una respuesta a lo que se le demanda, si no es claramente falsa, la da por buena y no busca más. No tiene criterio, por ahora y espero que nunca, para evaluar entre diferentes opciones. Por esto tantos errores.