хора

(Inside Science) - Преди половин век през 1968 г. Филип К. Дик публикува научно-фантастичната класика „Сънуват ли Androids електрически овце“? който по-късно ще се превърне във филма „Blade Runner“. В книгата Дик представи устройство, наречено машина Voigt-Kampff - инструмент за разпит, специално проектиран да разпознае андроид от човек. Сега животът имитира изкуство, като ботовете се представят за хора, които се развихрят в интернет. Но за разлика от андроидите в романа на Дик, днешните ботове са без тяло или дори лице. Те се намесиха в президентските избори в САЩ през 2016 г. и някои експерти казват, че са готови да продължат нападението в междинните периоди през 2018 г.

Но ако не можем да ги закръглим в една стая и да им зададем поредица от въпроси, как да изберем ботовете сред онлайн тълпа от милиарди?

I. Човешки програмисти и детективи

"Никога не мога да заспя. Но мога да лежа спокойно и да не надничам."
- Дейвид, "А. И. Изкуствен интелект" (2001)

Ако някой туитва 24 часа в денонощието, това може да е човек, който пие много Red Bull - но по-вероятно е бот.

За разлика от физическите роботи, днес ботовете са просто компютърни алгоритми, които изпълняват каквито и задачи да ги проектират програмистите. Един бот може да направи всичко - от изпращане на нежелана поща до милион имейл адреси до сваляне на уебсайт чрез преодоляване на честотната лента до писане на впечатляващо съгласувани стихове и публикуването им в Twitter.

В случай на ботове в Twitter, които се опитват да манипулират политическия новинарски цикъл, разглеждането на времевите печати в туитовете на акаунта е само един от начините да се прецени дали стоте или няколко знака са дошли от човек или бот. Има много по-фини подсказки, които човек може да използва, за да избере ботове, които се правят на хора.

Политолози и компютърни инженери разследват политически ботове и тролове в социалните медии поне от средата на 2000-те, много преди кибер кампанията на Русия за проникване в платформите за социални медии, за да повлияе на президентските избори в САЩ през 2016 г.

В наскоро публикувано проучване от списанието Big Data, изследователите обучиха човешки кодери, за да помогнат за идентифицирането на руски ботове в Twitter през 2014 и 2015 г. Човешките кодери - 50 студенти от Москва - бяха научени да търсят улики като например аватарът е празен или изглежда като снимка на запас, ако потребителското име съдържа твърде много числа и ако описанието на профила изглежда твърде общо. Кодерите търсят и по-нюансирани подробности, като например дали съотношението между приятели и последователи на акаунта изглежда ненормално, или ако неговите туитове съдържат само текст, а никога снимки.

Но "ботовете не се разкриват като ботове", каза Джошуа Тъкър, политолог от Нюйоркския университет и автор на статията. Без лесен достъп до истината те направиха следващото най-добро нещо - чрез сравняване на отговорите между човешките кодери, които се оказаха изключително съвместими помежду си. Ако акаунт в Twitter изглежда като бот и звучи като бот за 49 от 50 души, то вероятно е бот.

Като цяло 50-те обучени човешки програмисти надушиха около 250 бота сред хиляда акаунта в Twitter, които публикуваха съобщения за руската политика по време на събития около анексирането на Крим от Русия. Но хиляди акаунти са само върхът на айсберга в Twitter. За да проучат допълнително, изследователите трябваше да заемат силата на самите компютри.

Използвайки алгоритми за машинно обучение, комбинирани с данни, подготвени от човешките кодери, изследователите обучават компютри да анализират почти четвърт милион акаунта в Twitter, които са публикували над 15 милиона пъти през 2014 и 2015 г.

Те откриха, че от 250 000 акаунта, 97 000 са били активни през целия период, от които приблизително две трети могат да бъдат ботове. В определени дни повече от половината от всички туитове, свързани с руската политика, бяха публикувани от тези предполагаеми ботове. Както се очакваше, ботовете бяха по-малко склонни да споделят местоположението си или да чуруликат от мобилно устройство, но те също са склонни да ретвират повече от хората, а когато го правят, са склонни да ретвират само текста, без да включват никакви връзки.

Противно на това, което изследователите очакваха по-рано, тези ботове не просто чуруликат и ретвират интензивно като старите ботове, които започнаха да заливат онлайн форуми и да коментират теми с реклами на Viagra в началото на 2000-те. Вместо това те изглежда са развили някакъв финес в своя подход. Това предполага, че може да е имало битка между програмистите в Twitter и руските архитекти на ботове, всеки от които се опитва да получи контрол над това каква информация се подава към Twitter емисиите на други потребители.

Тази война между програмисти и бот архитекти не е нещо ново - помислете за вашия имейл филтър за нежелана поща срещу „нигерийския принц“ - но сега тази война се разпростира във всеки друг ъгъл на интернет и от своя страна във всеки аспект на съвременен живот.

"Едно от големите неща, които забелязахме, е нарастването на заглавията от RT (бивш Русия днес) и Sputnik, когато търсим новини онлайн. Това са по същество финансирани от държавата медийни организации от Русия", каза Тъкър от Нюйоркския университет. „По принцип имате алгоритми за класиране в търсенето с Google, които се опитват да разберат как да избегнат това, което правят тези ботове, и имате ботове, които се опитват да се прикрият от Google.“

"И играта на котка и мишка продължава", каза той.

II. Човешки тролове и спонсори

„„ По-човешки от човешки “е нашето мото.“
- Д-р Елдън Тирел, "Блейд бегач" (1982)

Колкото и напреднали да са ботовете днес, фалшивите новини в интернет все още се генерират предимно от хора. По време на въжета на бот между ботове и бот детективи, политическите актьори понякога могат да се превъзмогнат, като харчат малко повече пари и наемат действителни хора, известни като платени тролове, за да влияят и на информацията в интернет.

Платените тролове са хора, които правят неща като напредване на определени политически програми онлайн и са много по-трудни за откриване от ботовете. В крайна сметка, ако не изкопаем нечий IP адрес, как да разберете дали коментар на YouTube идва от мазето на Кремъл или бунгало в Индонезия?

Глобалната достъпност и анонимност на потребителите в Интернет даде сила на ботовете и троловете, за разлика от всяка друга медия, която е идвала преди. Отдавна са отминали дните на пропагандата чрез въздушни брошури и хакване на телевизионни кули. Днес платените тролове могат да бълват фалшиви новини директно в американски домове от всяка точка на планетата, стига да има интернет връзка.

За да се бори срещу експлоатацията от финансирани от държавата тролове, Facebook започна да етикетира платени политически реклами и да изисква потребителите, които пускат популярни страници във Facebook, да бъдат проверени. Въпреки че нито един от тези протоколи не може напълно да изтласка дезинформацията в интернет, те осигуряват малко защита, според Робин Каплан, експерт в социалните медии от Изследователския институт за данни и общество в Ню Йорк.

„Ако даден уебсайт изисква телефонен номер за потвърждаване на акаунт, това означава, че за да създадете фалшив акаунт, ще трябва да си купите телефон с горелка, което би било допълнителна инвестиция“, каза Каплан.

Анонимността отдавна е основата на интернет. Меч с две остриета, анонимността насърчава хората да говорят свободно, без да се страхуват от социален контрол или дори правни последици. Различните страни са подходили към въпроса за анонимността в интернет с различни нива на контрол. Китайското правителство, например, сега изисква всички потребители на Weibo - китайския еквивалент на Twitter в рамките на Голямата защитна стена - да проверяват лично своите акаунти чрез програмата „Регистрация на истинско име“.

На пръв поглед целта на програмата „Регистрация на истински имена“ е да спре разпространението на дезинформация в интернет, но някои коментатори я разглеждат като опит на правителството да контролира допълнително онлайн речта. Китай вече има по-строги закони от САЩ за своите мрежи, като например забрана на онлайн платформите да създават, публикуват или популяризират съдържание, което „уврежда националната чест и интереси“.

"Винаги ще има компромис между анонимността и отчетността и свободата на словото и любезността. Не мисля, че има смисъл да казваме, че трябва да сме от едната или от другата страна - в средата има сладко място, но никой не знае къде е това сладко място ", каза Ришаб Нитянанд, също изследовател от Изследователския институт за данни и общество." Това е философски дебат, който трябва да се случи. "

III. Човешки законодатели и регулатори

"В английския език има 400 000 думи и има седем от тях, които не можете да кажете по телевизията. Какво съотношение е това!"
- Джордж Карлин, "Седем думи, които никога не можеш да кажеш по телевизията" (1972)

Някой може да се закълне в буря в Twitter на милиони последователи, но не и в местно радио предаване, слушано от стотици. Защо?

„Интернет винаги е бил като Дивия Запад“, каза Тадеус Хофмайстер, експерт по право на социални медии от университета в Дейтън в Охайо.

Информацията в интернет се радва на много повече свобода в сравнение с телевизията и радиото, които са по-строго регулирани от Федералната комисия по комуникациите. Всяка платформа за социални медии обикновено има свой собствен набор от насоки на общността. Например можете да намерите определени видове съдържание за възрастни в Twitter, които не са разрешени във Facebook.

По-рано тази година правителството на САЩ предприе нова стъпка в регулирането на съдържанието в интернет. Нов закон, подписан от президента Доналд Тръмп през април, наречен Закон за разрешаване на трафика на сексуални трафиканти и разрешаване на държавите и жертвите да се борят онлайн трафик на секс, или FOSTA-SESTA, добавя изключение към съществуващия раздел 230 от Закона за почтеност в комуникациите от 1996 г., което предпазва онлайн платформите от отговорност за това, което публикуват техните потребители.

Законодателите посочиха Backpage - онлайн рекламиран уебсайт, подобен на Craigslist - като една от основните мотивации зад закона. Сайтът беше съден многократно за съзнателно приютяване на реклами, свързани с трафик на секс и детска порнография, но адвокатите се бореха да спечелят дела заради Раздел 230.

Въпреки това, въпреки че законът може да бъде подкрепен от добри намерения, Хофмайстер предупреди за възможните му нежелани последици. Правни експерти разкритикуваха езика на законопроекта като "изключително неясен и широк". След приемането на закона много уебсайтове, включително Craigslist и Reddit, затвориха части от своите общности.

Допълнителни разпоредби могат също да помогнат за контрола на пазара на цимент за съществуващи технологични гиганти като Twitter и Facebook, които вече разполагат със системи, които следят потребителското съдържание, според Hoffmeister. Според собствения доклад на Facebook този месец, компанията е премахнала 21 милиона парчета порнографско съдържание само през първите три месеца на 2018 година. По-малка стартираща компания може да няма същите ресурси, за да се справи със строгите разпоредби, каза Хофмайстер.

"Когато Зукърбърг пускаше Facebook от общежитието си, той не трябваше да се тревожи за тези неща. И така, ако въведем нови разпоредби за контрол на ботове и фалшиви новини, как това ще се отрази на следващата стартираща компания?" - каза Хофмайстер.

Дори да въведем нови закони и протоколи за платформи, за да ограничим тези злонамерени ботове и тролове сега, ще бъде ли късно? Според неотдавнашно проучване отрицателната партийност - идеята, че хората не се обединяват, за да подкрепят своите, а да се противопоставят на другата партия - е във възход и допринася за безчинства в социалните медии. И така, неотдавнашното засилване на разделението е само естествено развитие в двупартийната система на Съединените щати или има нещо друго, което подхранва огъня?

IV. Човешки модератори и изпълнители

"Тълпата винаги е съставена от хора."
- Атикус Финч, Да убиеш присмехулник (1960)

Интензивните дебати между демократичните и републиканските френски врагове са толкова американски, колкото фойерверките на четвърти юли, но някои проучвания показват, че политическото разделение днес е по-голямо, отколкото е било от десетилетия. За да проучи тенденцията на политическите аргументи в социалните медии, Nithyanand разгледа Reddit, онлайн сборник новини и дискусионна платформа, който преживя бързо нарастване на популярността от началото на 2010-те.

За разлика от Facebook и Twitter, публикациите и коментарите в Reddit се управляват постоянно от човешки доброволци, както и от компютърни алгоритми. Цялото съдържание в Reddit е сортирано в по-малки общности, наречени subreddits, с имена като/r/liberal или/r/conservative, всяко със собствен набор от правила и автоматични филтри и човешки модератори, които следят и премахват всичко, което нарушава тези правила. Поради това Reddit предоставя хиляди микрокосмоси на изследователите, за да проучат как всяка от тези общности на subreddit оформя своето поведение на потребителите.

След като анализира повече от 100 милиона коментара в Reddit между 2015 и 2016 г., Nithyanand откри ясна асиметрия между консервативните и либералните подредиди. През този период консервативните подредити отбелязаха 1 600 процента увеличение на връзките, споделени от спорни обекти, известни с разпространението на конспиративни теории и фалшиви новини, докато либералните подредити почти не са имали такава дейност.

Въпреки че е трудно да се разбере дали увеличението от 1 600 процента се дължи на съзнателно усилие за преобладаващо инфилтриране на консервативни субреддити над либералните субредити, Нитянанд вярва, че разликата в правилата и модерирането на философията в различните субдедрити е изиграла съществена роля за формирането на разликата. Nithyanand установи, че публикациите от противоречиви обекти на либерални подредакти обикновено се деактивират или премахват от модераторите и автоматичните филтри и не получават почти никакво участие от своите потребители. За разлика от тях, модераторите от консервативни подредакти използват относително подход „свободни ръце“ и позволяват на своите потребители повече свобода да публикуват и споделят съдържание.

Тази липса на действия от страна на модераторите в консервативните подразделения също вероятно е подхранвала огромния приток от коментари, много от които обидни и омразни, идващи от потребители, свързани с екстремистки подредиции, според проучването на Nithyanand. Неговото проучване установи, че консервативните подредити са имали повече от шестдесеткратно увеличение на подобни дейности, водещи до президентските избори през 2016 г. в САЩ, докато либералните субредити са имали само двойно увеличение на подобен трафик.

Екипът на Nithyanand също намери сметки за тролове, които пуснаха възпалителни коментари от двете страни на политическия спектър. Тъй като възпалителните коментари са склонни да пораждат повече коментари, тези неграмотни аргументи се поддържат и отекват в подредакти, където модераторите или не са склонни, или не могат ефективно да маркират и премахват коментарите.

„Трябва да помогнем да предоставим инструменти за вече претоварени модератори, за да улесним модерирането на съдържанието“, написа Nithyanand в имейл.

В края на краищата обаче, независимо колко инвазивни са тези ботове и тролове онлайн, те не могат директно да избират нашето правителство вместо нас. Ние, хората.

V. Човешки граждани и избиратели

"R2-D2! Вие знаете по-добре, отколкото да се доверите на странен компютър!"
- C3PO, "Междузвездни войни: Епизод V - Империята отвръща на удара" (1980)

Силата на ботовете и троловете се крие в способността им да заблуждават хората. Неотдавнашен доклад на RAND Corporation, американски мозъчен тръст за политиката с нестопанска цел, изброява редица препоръки за защита на демокрациите при появата на злонамерени ботове и тролове в социалните медии. Препоръките на групата включват технически подходи като разработване и прилагане на по-ефективни методи за идентификация и маркиране за ботове и тролове, както и "офлайн" решения, като обучение на обществеността да бъде по-бдителна срещу фалшивите новини и слухове.

Вместо да разчитат единствено на компаниите за социални медии да се борят сами с тази борба, докладът препоръчва на страните да обучават своите граждани по медийна грамотност, да разширяват и подобряват съдържанието, създадено от местни надеждни информационни агенции, което му позволява да се конкурира по-добре с пропагандата, финансирана от чуждестранна държава, и да даде възможност на влиятелните в социалните медии.

Според Тъкър битките между противоположните политически страни за това как информацията се споделя онлайн могат да предизвикат нещо като надпревара във въоръжаването, като и двете страни непрекъснато се опитват да се обединят. Той създава ново бойно поле, където политическата власт може да бъде спечелена или загубена, чрез манипулиране на граждани, които може да останат в неведение за мотивите и действията на тези участници, каза той.

„Имате режими, които се опитват да измислят начини да използват социалните медии, за да засилят своята сила, но имате и противници на тези режими, които се опитват да подобрят собствената си способност да се борят срещу тях“, каза Тъкър.

Ако „информацията е валутата на демокрацията“ - цитат, неподходящо приписван на Томас Джеферсън на някои уебсайтове - тогава е разбираемо защо политическите актьори могат да се стремят да манипулират информацията в социалните медии и интернет. В края на юли Facebook обяви, че е затворил 32 фалшиви акаунта, разпространяващи разделящи се онлайн съобщения в навечерието на междинните избори.

"Имаше много идеологии, замесени в това, което интернет трябва да бъде - мисля, че някой го каза по този начин - той трябва да даде непрозрачност на безсилните и да донесе прозрачност на мощните. Но интернет се е развил от това и продължава да се променя ", каза Нитянанд. „Трябва да помогнем на обществеността да разбере, че това е нещо, за което всъщност трябва да се грижат.“