Instagram, gereksiz ve rahatsız edici yorumları otomatik olarak algılayan ve insanların bu mesajları görmeden silen bir sistemi uygulamak için çalışıyor. Yeni sistem, Facebook ve Instagram'in spamlere karşı mücadele etmek için kelimeleri bağlam içinde kullandıklarını anlamasına yardımcı olan bir metin sınıflandırma motoru olan DeepText ile yaptığı çalışmaya dayanıyor. Instagram, geçen yılın Ekim ayında başlayan sosyal ağlarda spam'i önleme sistemi için teknolojiyi başarılı bir şekilde kullandıklarını söylüyor. Sistemin nasıl çalıştığı ve spam'ı ne ölçüde azalttığını tam olarak söylemedikleri halde sonuçları beğendiklerini söylüyor sistem çalışanları. Bu sistemin başarısını dayanak olarak kullanan ekip, daha da sıkıntılı bir sorunun üstesinden gelip gelmeyeceğini görmek istiyor: nefret dolu ve rahatsız edici yorumlar. Ekip, DeepText'i, olumsuz yorumları tanımlama ve "zorbalığa maruz olma, ırkçılık veya cinsel taciz" gibi geniş kesimlere kategorize etme konusunda eğitim aldı. Uzmanlar, yazılım için torbaya eklenecek sözcüklerin yayınlanmasından önce toplamda en az iki milyon yorumu analiz ettikleri söyleniyor ve doğru sınıflandırmayı sağlamak için her birini en az iki kez sınıflandırdılar. Filtre ilk başta İngilizce olarak başlıyor ancak projede çalışan tüm değerlendiriciler en az iki dilde konuşuyor ve Instagram, spam filtresini diğer dillere de genişletiyor; bu da bu aracı zamanla daha fazla bölgede konuşlandıracak demektir. Anekdot olarak Instagram, birçok diğer İnternet sosyal platformundan daha fenomen olduğu için çok sayıda kişinin tercih ettiği bir sosyal ağ. Eğer bu sistemin etkisi ispatlanırsa, kullanıcılar bu ağa daha sıkı bağlanacaktır.
