Ново проучване показва как сайтове като Instagram и Pinterest се борят да модерират про-ED съдържание - или дори не позволяват на алгоритмите им за препоръки да се появят.

Почти откакто съществува интернет, съществуват и общности за разстройство на храненето: блогове, групи, форуми и профили в социалните медии, където потребителите споделят истории и снимки, свързани с нарушено хранене и изображение на тялото. Някои членове просто искат място без присъда, за да изразят чувствата си към сложно заболяване, но други насърчават по-опасно поведение, като насърчаване на екстремни диети или разубеждаване на хората да получат помощ.

храненето

И както при другите видове вредно съдържание в интернет, платформите, хостващи про-ED общности, отдавна се борят с това как да ги модерират. През 2001 г. Yahoo премахна над 100 про-ED сайта от сървърите си, заявявайки, че нарушават условията му за ползване. Десетилетие по-късно изложение HuffPost за тийнейджърки, създаващи блогове за „вдъхновение“ в Tumblr, накара този сайт и други да забранят изрично про-ЕД общностите.

Ново изследване, публикувано миналия месец в рецензираното списание New Media & Society, подчертава как про-ED групите продължават да избягват опитите за модерация. Проучването също така установи, че сайтове като Pinterest и Instagram понякога предлагат повече про-ED съдържание на потребителите чрез техните алгоритми за препоръки. Това не е изолиран проблем - изследователите са открили, че механизмите за препоръки на платформи като YouTube също предлагат проблематично съдържание, като конспиративни теории. Но за разлика от фалшивите новини, потребителите, които споделят съдържание, свързано с хранителни разстройства, може да страдат от сериозно заболяване като анорексия или булимия. Компаниите трябва да преценят не само самото съдържание, но и ефекта, който може да има премахването му върху уязвимите хора, които го споделят.

„Много е много трудно да се разберем какво би се побрало в категорията на токсичното или съдържанието на хранителни разстройства“, казва Клер Миско, главен изпълнителен директор на Националната асоциация за хранителни разстройства, която работи със сайтове в социалните медии, за да помогне на умерените професионалисти -ED общности. „Хората, които го публикуват и които са ангажирани в тези общности, наистина се борят. Не искате да го настроите, тъй като това е добро и лошо, като демонизира потребителите, които публикуват това съдържание. "

Дилемата на Hashtag

Проучването „Нови медии и общество“ се фокусира върху хаштаговете като инструмент за модериране на съдържанието и подчертава колко трудно може да бъде за технологичните компании да открият проблематично съдържание и да решат какво трябва и какво не трябва да се премахва.

След публикуването на статията на HuffPost през 2012 г., Instagram, Pinterest и Tumblr започнаха да модерират про-ED хаштагове и условия за търсене.

Сега, когато потребителите търсят тагове, свързани с хранителни разстройства, като #bulimia, сайтовете или блокират изцяло резултатите, или извеждат изскачащо съобщение с искане да потърсят помощ.

Това е разбираема стратегия: хаштаговете, за разлика от изображенията, могат лесно да бъдат категоризирани и маркирани от автоматизирани системи за откриване и човешки модератори. Те са и колко хора намират ново съдържание, така че блокирането на определени хаштагове ограничава колко хора може да достигне публикация. В исторически план маркираното съдържание също е било прекалено подчертано от изследователите на социалните науки поради много от същите причини. По-лесно е да анализирате голям набор от данни от конкретни хаштагове, отколкото ръчно да разресвате немаркирано съдържание.

Но конкретни хаштагове не са постоянни елементи на социалните медии и те лесно могат да се трансформират, за да отговарят на нуждите на общностите. Отделно проучване от 2016 г. на Технологичния институт в Джорджия установи, че потребителите на про-ED просто са започнали умишлено да изписват грешно или да променят термините: „#thinspiration“ стана „#thynspiration“, „#thinspire“ или „#thinspirational“, например. За да избегнат модерацията, много про-ED акаунти и блогове изобщо не използват никакви хаштагове, което ги прави по-трудни за намиране на платформи и изследователи за проучване.

„Тази група е наистина разбираща, защото те знаят, че това, което правят, е неприемливо в очите на обществото, в платформата, в очите на троловете“, казва Изабел Джерард, автор на скорошното проучване и преподавател в университета в Шефилд . „Те са толкова наясно, че акаунтът им може да бъде премахнат.“

Как беше проведено проучването

Джерард започна своите изследвания чрез създаване на нови акаунти в Instagram, Pinterest и Tumblr на iPhone. Насоките на общността на трите сайта посочват, че не позволяват на потребителите да публикуват съдържание, „насърчаващо или подтикващо хората да приемат самонараняване“, или че „активно популяризира. хранителни разстройства."

Тя незабавно установи, че забраната за промяна на хаштаговете на Instagram има лесно решение: можете да търсите хора, които имат ключовите думи в потребителските си имена, но не и да маркират в публикациите си. Тя идентифицира 74 публични акаунта, които съдържат термини като „проана“, „проанорексия“ или „бедро“ в имената или биографиите си и които също публикуват съдържание за про-ЕД. След това тя анализира 1612 от техните публикации - само 561 от които имаха хаштагове - като каталогизира съдържанието на изображението и неговия надпис.

На Tumblr Джерард следва редица термини, свързани със съдържание за про-ЕД, като „thinspo“, „proana“ и „булимия“. Tumblr ви позволява да следите теми, без да е необходимо да следвате конкретни потребители. Например можете просто да следите „филми“, без да следвате конкретен потребител, който публикува по тази тема. Чрез този метод тя намери 50 про-ED блога и анализира 20 публикации от всеки, или общо 1000 публикации. Само 218 от публикациите са маркирани.

„Тази група е наистина разбираща, защото те знаят, че това, което правят, е неприемливо в очите на обществото, в очите на платформата, в очите на троловете.“ Изабел Джерард

Разглеждайки 2612 публикации в Instagram и Tumblr, Джерард разкри сложен лексикон от сигнали, които вероятно биха избегнали усилията за модериране на всяка платформа. Например тя откри редица публикации, свързани с диетични планове, като диета Ana Boot Camp, която насърчава драстично намаляване на калорийния ви прием. Рекламирано като ABC Diet, е трудно да се разграничи от голяма част от масовото фитнес и диетично съдържание, което се разпространява в приложения като Instagram. Някои от тези диети, като популярната кетогенна диета, също са изключително рестриктивни, което показва колко размита е границата между про-ЕД общностите и други, които уж не нарушават правилата на сайта.

Ролята на препоръките

Едно от най-тревожните открития на изследването е ролята, която играят алгоритмите за препоръки. Джерард установи, че след преглеждането на публикации за про-ED в Pinterest, сайтът предполага, че тя може да „обича“ други „идеи“, които са „свързани със смъртта и самоубийството, като например„ как да умреш “и„ искаш да умреш цитати “. Хранителните разстройства често се срещат заедно с други форми на психични заболявания, като депресия и тревожност. Сайтът също препоръча „популярни щифтове за теб“ на Джерард по имейл, който включваше теми като „тазобедрени кости“.

„Имаме политики срещу запазването на този тип съдържание от други сайтове и социални медии в нашата платформа“, заяви говорител на Pinterest в изявление. „Ако това съдържание влезе в нашата система, ние имаме редица автоматизирани и ръчни процеси, за да го премахнем или затрудняваме намирането, и няма да показваме резултати, ако някой търси тези термини. Ние приемаме това съдържание много сериозно и винаги работим за подобряване. “

Алгоритмите за препоръки на Instagram и Tumblr се държат по подобен начин, според изследванията на Джерард. В Instagram, например, Джерард никога не е харесвал или коментирал каквито и да било публикации - които биха могли да се видят от потребителите и потенциално да повлияят на тяхното поведение - но тя „запазва“ про-ED съдържание в папката си със запазени публикации, която не изпраща известия до Постерът. След като тя започна да запазва нещата, раздела „Изследване“ на Instagram се наводни с друго про-ED съдържание. Instagram и Tumblr не отговориха на многократни искания за коментар.

Алгоритмите за препоръки на други платформи също неволно популяризират проблемно съдържание пред потребителите. Както Ню Йорк Таймс, така и Wall Street Journal установиха по-рано тази година, че алгоритъмът на препоръките на YouTube усилва конспиративните теории и друго екстремистко съдържание.

„Платформите все още не са съгласували алгоритмично своите морални позиции относно хранителните разстройства и самонараняването, което означава, че те едновременно тласкат и отричат ​​проблемно съдържание на своите потребители“, пише Джерард в своето проучване.

Какво могат платформите

Не всички експерти са съгласни, че съдържанието на pro-ED трябва да се сваля на едро. Едно проучване установи, че тези групи могат да бъдат полезни места за хората да артикулират своите заболявания, понякога за първи път. Друго безпокойство е, че ако платформите премахнат про-ED потребители, те ще се преместят на по-трудно достъпни места като частни групи и ефимерни приложения като Snapchat.

В същото време няма съмнение, че групите за разстройство на храненето могат да бъдат токсични и вредни. „Това беше един от най-тежките обострятели на болестта за мен, тези уебсайтове“, казва една жена, която се е възстановила от анорексия и е поискала да не се използва истинското й име. „Форумът е идеалното място да отделите цялото си време и енергия за разстройството си. Получавате потвърждение за вашата болест. "

Миско, изпълнителният директор на NEDA, и Джерард се съгласяват, че компаниите за социални медии могат да направят повече, за да помогнат на хората, които се борят с хранителни разстройства, които използват техните сайтове.

Джерард предлага платформите да се въздържат от закриване на целия акаунт на човек и вместо това да обмислят изтриване на отделни публикации. По този начин те не са рязко откъснати от други потребители, които може да подкрепят. Много про-ED акаунти използват псевдоними, което затруднява възстановяването на контакт, ако акаунтът бъде спрян.

Джерард също препоръчва платформите да наемат обучени модератори, които се специализират в идентифицирането на вредно про-ED съдържание. Общностните насоки на компаниите често са неясни; не е лесно за модераторите или потребителите да разберат кога са прекрачили границата.

Миско казва, че платформите също трябва да обмислят да работят директно с вече популярните влияещи върху фитнеса и здравето, за да популяризират по-здравословни послания за храненето и имиджа на тялото. Групите и блоговете за хранително разстройство винаги са били онлайн. Това, което се промени, е, че те вече съществуват заедно с море от персонализирано, често полово съдържание, което засилва същия идеал за тънкост, просто не изрично.

„Има тенденция да се сравняват. Много хора са наистина перфекционисти и това наистина се усилва в пространството на социалните медии “, казва Миско. „Това е постоянно засилване на онези несигурности, които са в основата на много хранителни разстройства.“

Ако вие или някой, на когото държите, се борите с хранително разстройство, можете да се обадите на горещата линия на Националната асоциация за хранителни разстройства на (800) 931-2237. Можете също да изпратите текстово съобщение "NEDA" на 741741. Повече информация за наличните ресурси можете да намерите тук.

Още страхотни WIRED истории

  • PHOTO ESSAY: Открийте скритите изображения в тези психеделични пейзажи
  • Тези физици са гледали часовник, който отчитат в продължение на 14 години
  • Плановете на Apple да внесат изкуствен интелект във вашия телефон
  • Време е да се развълнувате за бъдещето на компютрите. (Да, компютри.)
  • 4Chan навършва 15 години и остава тийнейджър на интернет
  • Търсите още? Регистрирайте се за ежедневния ни бюлетин и никога не пропускайте нашите най-нови и най-велики истории

Почти откакто съществува интернет, съществуват и общности за разстройство на храненето: блогове, групи, форуми и профили в социалните медии, където потребителите споделят истории и снимки, свързани с нарушено хранене и изображение на тялото. Някои членове просто искат място без присъда, за да изразят чувствата си към сложно заболяване, но други насърчават по-опасно поведение, като насърчаване на екстремни диети или разубеждаване на хората да получат помощ.