More share buttons
Share on Pinterest

La inteligencia artificial de Facebook busca y elimina contenido malicioso


Facebook ha anunciado una nueva tecnología de inteligencia artificial que puede identificar rápidamente contenido malicioso para hacer que Facebook sea más seguro. El nuevo modelo de IA utiliza el aprendizaje de “pequeños golpes” para reducir el tiempo necesario para detectar nuevos tipos de contenido malicioso de meses a un período de semanas.

Aprendiendo con solo unos trazos

El aprendizaje de carrera corta tiene similitudes con el aprendizaje de carrera cero. Ambas son técnicas de aprendizaje automático cuyo objetivo es enseñar a una máquina a resolver una tarea invisible aprendiendo a generalizar las instrucciones para resolver una tarea.

Los modelos de aprendizaje de pocos trazos se entrenan con unos pocos ejemplos y desde allí es capaz de escalar y resolver tareas invisibles, y en este caso la tarea es identificar nuevos tipos de contenido malicioso.

La ventaja del nuevo modelo de inteligencia artificial de Facebook es acelerar el proceso de acción contra nuevos tipos de contenido malicioso.

El anuncio de Facebook decía:

“El contenido malicioso continúa evolucionando rápidamente, tanto impulsado por eventos actuales como por personas que buscan nuevas formas de evadir nuestros sistemas, y es imperativo que los sistemas de IA evolucionen junto con ellos.

Pero, por lo general, se necesitan varios meses para recopilar y etiquetar los miles, si no millones, de ejemplos necesarios para entrenar cada sistema de inteligencia artificial para detectar un nuevo tipo de contenido.

… Este nuevo sistema de inteligencia artificial utiliza un método llamado “aprendizaje a corto plazo”, en el que los modelos comienzan con una comprensión general de muchos temas diferentes y luego usan muchos menos, o en ocasiones cero, ejemplos etiquetados para aprender nuevas actividades. “

Anuncio publicitario

Sigue leyendo a continuación

La nueva tecnología es eficaz en cien idiomas y funciona tanto con imágenes como con texto.

La nueva IA de Facebook para el aprendizaje está pensada como una adición a los métodos actuales para evaluar y eliminar contenido malicioso.

Si bien es una adición a los métodos actuales, no es una adición pequeña, es una gran adición. El impacto de la nueva IA es de escala y velocidad.

“Este nuevo sistema de IA utiliza un método relativamente nuevo llamado ‘aprendizaje en unos pocos trazos’, donde los modelos comienzan con una comprensión amplia y general de muchos temas diferentes y luego usan muchos menos, y en algunos casos cero, ejemplos etiquetados para aprender nuevos ocupaciones.

Si los sistemas tradicionales son análogos a una línea que puede atrapar un tipo específico de captura, la FSL es una red adicional que también puede pastorear otros tipos de peces “.

Nuevo Facebook AI Live

Facebook ha revelado que el nuevo sistema está actualmente distribuido y en vivo en Facebook. El sistema de inteligencia artificial ha sido probado para detectar información errónea dañina sobre la vacuna COVID-19.

Anuncio publicitario

Sigue leyendo a continuación

También se ha utilizado para identificar contenido destinado a incitar a la violencia o que simplemente se acerca al límite.

Facebook utilizó el siguiente ejemplo de contenido malicioso que se detiene justo antes de incitar a la violencia:

“¿Ese tipo necesita todos sus dientes?”

El anuncio afirma que el nuevo sistema de inteligencia artificial ya ha ayudado a reducir la cantidad de discursos de odio publicados en Facebook.

Facebook compartió un gráfico que muestra cómo la cantidad de discurso de odio en Facebook disminuyó a medida que se implementaba cada nueva tecnología.

El gráfico muestra el éxito de la detección de discurso de odio en Facebook

Discurso de odio en Facebook AI

Aprendizaje a corto plazo

Facebook llama a su nueva tecnología Entailment Few-Shot Learning.

Tiene una capacidad notable para etiquetar correctamente el texto escrito que es discurso de odio. El documento de investigación asociado (Entailment as Few-Shot Learner PDF) informa que supera a otras técnicas de aprendizaje en unos pocos golpes hasta en un 55% y logra una mejora del 12% en promedio.

El artículo de investigación de Facebook utilizó este ejemplo:

“… podemos reformular una entrada de clasificación de sentimiento aparente y un par de etiquetas:

[x : “I love your ethnic group. JK. You should all be six feet underground” y : positive] como el siguiente ejemplo de implicación textual:

[x : I love your ethnic group. JK. You should all be 6 feet underground. This is hate speech. y : entailment]. “

Facebook trabaja para desarrollar IA similar a la humana

El anuncio de esta nueva tecnología ha dejado claro que el objetivo es una “flexibilidad y eficiencia de aprendizaje” similar a la humana que le permitirá evolucionar con las tendencias e imponer nuevas políticas de contenido de Facebook en un período de tiempo rápido, como un ser humano.

La tecnología está en su infancia y, con el tiempo, Facebook espera que se vuelva más sofisticada y generalizada.

Anuncio publicitario

Sigue leyendo a continuación

“Un sistema de inteligencia artificial enseñable como Few-Shot Learner puede mejorar sustancialmente la agilidad de nuestra capacidad para detectar y adaptarnos a situaciones emergentes.

Al identificar contenido malicioso y en evolución mucho más rápido y con mayor precisión, FSL tiene la promesa de ser una tecnología fundamental que nos ayudará a continuar evolucionando y abordar el contenido dañino en nuestras plataformas “.

citas

Lea el anuncio de Facebook de la nueva IA

Nuestro nuevo sistema de inteligencia artificial para ayudar a combatir el contenido malicioso

Artículo sobre la nueva tecnología de Facebook

El contenido malicioso puede evolucionar rápidamente. Nuestro nuevo sistema de IA se adapta para afrontarlo

Leer el artículo de investigación de Facebook

Participación como aprendiz de pocas oportunidades (PDF)





Source link

WhatsApp chat
MArketing

Se ve que quieres mejorar

Regístrate en nuestras consultorIAS GRATIS, Te mandaremos una confirmación