Tecnología e innovación

Una nueva herramienta utiliza AI para detectar texto escrito por el AI – MIT Technology Review

AI algoritmos pueden generar texto suficientemente convincente como para engañar al humano promedio—lo que podría proporcionar una manera de producir en masa noticias falsas, falsos comentarios, falso y cuentas sociales. Afortunadamente, la IA puede ser utilizada para identificar a los falsos texto, también.

Las noticias: Investigadores de la Universidad de Harvard y MIT-IBM Watson Laboratorio de IA tiene desarrollado una nueva herramienta de para ver el texto que se ha generado el uso de la IA. Llama Gigante de modelo de Lenguaje de la Prueba de Habitaciones (GLTR), que explota el hecho de que AI generadores de texto se basan en patrones estadísticos en el texto, en oposición a real el significado de palabras y oraciones. En otras palabras, la herramienta puede saber si las palabras que estás leyendo parece demasiado previsible para haber sido escrito por un humano real mano.

El contexto: la Desinformación está siendo cada vez más automatizado, y la tecnología necesaria para generar falsas texto e imágenes avanza rápido. AI herramientas que funcionan como esto puede convertirse en armas valiosas en la lucha para la captura de noticias falsas, en lo profundo de las falsificaciones, y twitter bots.

Fingir: los Investigadores en OpenAI ha demostrado recientemente un algoritmo capaz de soñar hasta sorprendentemente realista pasajes. Ellos alimentados con grandes cantidades de texto en una máquina de gran tamaño modelo de aprendizaje, que aprendieron a recoger patrones estadísticos en esas palabras. El equipo de Harvard desarrollado su herramienta utilizando una versión de la OpenAI código que se lanzó al público.

¿Cómo previsible: GLTR destaca las palabras que son estadísticamente probable que aparezca después de la anterior en el texto. Como se muestra en el pasaje de arriba (de Broma Infinita), la más predecible palabras son de color verde; son menos predecibles amarillo y rojo; y menos predecibles son de color púrpura. Cuando se probó en los fragmentos de texto escrito por OpenAI del algoritmo, se encuentra una gran cantidad de previsibilidad. Auténticos artículos de noticias y resúmenes científicos contienen más de una sorpresa.

la Mente y la máquina: Los investigadores detrás de GLTR llevado a cabo otro experimento así. Se pidió a los estudiantes de Harvard para identificar AI texto generado por—primera sin la herramienta y, a continuación, con la ayuda de su resaltar. Los estudiantes sólo fueron capaces de detectar la mitad de todas las falsificaciones en sus el propios, pero podría irregular 72% cuando se da la herramienta. “Nuestro objetivo es crear humanos y AI sistemas de colaboración”, dice Sebastián Gehrmann, un estudiante de Doctorado que participan en el trabajo.

Si usted está interesado, usted puede probarlo por ti mismo.

This content was originally published here.