Instagram y sus usuarios ya se benefician de las consecuencias de las grandes inversiones de Facebook en nuevas tecnologías derivadas de la inteligencia artificial. Ahora la AI podría ayudar a conseguir un Instagram más tolerante para sus usuarios. Hoy Instagram anuncia un nuevo conjunto de características anti-cyberbullying. Lo más importante es que ahora puede usar el aprendizaje automático para escanear ópticamente las fotos publicadas en la aplicación y detectar una posible intimidación, enviando la publicación a los moderadores de la comunidad de Instagram para que la revisen. Eso significa que los acosadores no podrán simplemente escribir garabatos o notas difamatorias y luego publicarlas encima de una foto suya para evitar los filtros de texto de Instagram.
En su primera publicación en el blog dirigida directamente a los usuarios de Instagram, el recientemente nombrado director, Adam Mosseri, escribe: “No hay lugar para la intimidación en Instagram. . . Como nuevo Director de Instagram, me enorgullece desarrollar nuestro compromiso de hacer de ésta una comunidad amable y segura para todos ”. El filtro para fotos y títulos se desplegará en las próximas semanas.
Instagram lanzó el filtrado de texto anti bullying en mayo, pero esto puede haber empujado a los trolls a atacar a las personas a través de imágenes. Ahora, su clasificador de intimidación puede identificar el acoso en las fotos, incluidos los insultos dirigidos hacia la personalidad, la apariencia, el bienestar o la salud de una persona. Instagram confirma que el filtro de imagen funcionará en feeds e historias. «Aunque esta actualización solo se enfoca en las fotos, estaremos trabajando para agregar protecciones para el video, incluido IGTV, muy pronto», dijo un portavoz de Instagram.
Los usuarios de Instagram verán la configuración «Ocultar comentarios ofensivos» predeterminada en su configuración. También pueden optar por listar manualmente las palabras que desean filtrar de sus comentarios, y pueden optar por filtrar automáticamente las palabras más comunes. Con el texto, es blanco y negro, por lo que Instagram solo puede bloquear palabras clave. Con las imágenes, no permitirá que la AI ejecute una acción, y en su lugar utiliza el filtro para dirigir las publicaciones a los moderadores humanos que toman la decisión final.
Mientras tanto, Instagram está expandiendo su filtro proactivo para la intimidación en comentarios del feed, Explorar y perfil para proteger también las transmisiones en vivo. Se está lanzando el efecto de cámara «Kindness» en asociación con Maddie Ziegler, mejor conocida como la versión de bailarina infantil de Sia de su video musical «Chandelier». El efecto llena tu imagen con corazones y comentarios positivos en diferentes idiomas al tiempo que te pide que etiquetes a un amigo que te importa. Será visible en la bandeja de efectos de la cámara de los usuarios si siguen a Ziegler, o si ven que un amigo lo usa, pueden probarlo ellos mismos.
Para que Instagram siga siendo la aplicación favorita de los adolescentes, no puede permitir que la integridad de los miembros de la comunidad sea vulnerada. Se ha hablado mucho sobre la interferencia de Facebook con Instagram después de la renuncia de los cofundadores de la aplicación de fotos. Pero la matriz ofrece economías de escala en Instagram que desbloquean tecnología como este filtro de intimidación que una empresa independiente quizás no hubiese podido desarrollar.