Добру и злу неведома разлука

Птичка, олицетворяющая Твиттер, как и голубь, тоже символ мира. Только виртуального. Фото Reuters

Хорошо известно, что, согласно библейской Книге Бытия, особое дерево, посаженное Богом наряду с Древом жизни посреди Эдемского сада, было Древо познания добра и зла. В этом божественном контексте среди этических категорий человеку была дарована способность осознанно определять для себя – что есть добро и что есть зло.

В наше время высоких технологий, информационного общества, интенсивного освоения киберпространства этот вечный выбор никуда не исчез, он существует и задает свою драматургию давнего и, увы, нескончаемого противостояния.

Просто сегодня к другим полям сражений добавилось виртуальное пространство, где идет борьба е-Добра с е-Злом. Так что не удивляйтесь несколько модернизированному обозначению старого как мир единоборства.

Конечно есть вечные ценности, но в быстротекущем времени они требуют постоянного расширения языка в объяснении новых явлений, открытий, понятий.

Чтобы дальнейшие мои рассуждения были ясны, возьмем для примера уже упомянутый текст «Новый виток войны е-Добра и е-Зла». Далее попробуем увидеть это реальное противостояние в мире информационных технологий.

Как обычно, первый удар нанесло е-Зло с целью взять под контроль новостную повестку человечества. И начальным первым же полем битвы стали социальные сети.

Инструментом е-Зла стали социальные боты, искажающие повестку в нужную сторону, раздувая одни новости (в том числе фейковые) и тем самым оттирая внимание от других.

Боты е-Зла преуспевают. В этом месяце среди самых обсуждаемых тем в Twitter до 60% твитов обеспечили социальные боты. Twitter, потративший последний год на борьбу с этой напастью, феерически проигрывает этот этап сражения.

Боты е-Зла научились эволюционировать

Теперь они не просто выдают себя за людей (что худо-бедно научились распознавать средства противоботовой обороны Twitter), а вовлекают в свои информационные действия каскады людей, прячась за их спинами и тем самым скрываясь от ПБО.

Как всегда, силы е-Добра неизмеримо малочисленнее. Но это вовсе не значит, что они слабее. Доблести, отваги и креативности им не занимать.

Великолепная восьмерка

Организованный двумя студентами UC Berkeley стартап Robhat Labs является не только популяризатором борьбы с ботами, но и одним из участников этих сражений. Причем сегодня в штате стартапа всего восемь человек. Но они сумели мобилизовать на сопротивление ботам наиболее изысканный интеллект – машинное обучение.

На основе такого обучения была разработана методология, выявляющая ботов по паттернам (шаблонам) программирования их поведения в Сети.

Первый продукт команды – расширение Chrome под названием BotCheck.me – позволяет пользователям выявлять в своей ленте наиболее вероятные боты.

Второй инструмент, getsurfsafe.com, помогает детектировать фейковые новости.

Третий – это запущенный недавно Factcheck.me – этакий Шерлок Холмс в расследовании поведения ботов. Он умеет выявлять даже ботов-провокаторов, подстрекающих людей к распространению вредоносного контента. А еще он ловко оценивает картинки-завлекалки и вирусные ссылки.

Так что если хотите быть на стороне добра, у вас теперь есть неплохой инструментарий.

Однако лишь технологическими методами наступающую тьму фейковой информационной реальности не остановить. Она сегодня повсеместно претендует на такую подлинную правдивость, которая имеет высокие шансы стать доминирующей уже в ближайшее десятилетие, что вызовет радикальные последствия для политики, культуры и образования.

Ключевой и пока что непреодолимой силой, толкающей мир в новые темные времена, является своеобразная цепная реакция, в основе которой лежат следующие факторы:

– многочисленные и разнообразные тараканы в наших головах – наличие у большинства из нас сложных когнитивных искажений и предрассудков, существующих на подсознательном уровне;

– многократный рост уровня «облучения сетевой заразой», искусственно порождаемой вирусными мемами.

Причем такой контент сомнительной точности – в простонародье «фейковые новости» – вовсе не новое изобретение. Он появился вместе с возникновением свободной прессы.

Еще в конце XVIII века второй президент США Джон Адамс, высмеивая одного французского философа, который истово утверждал, что свободная пресса будет продвигать знания, заметил: «За последние 10 лет пресса наделала больше ошибок, чем за 100 лет до 1798 года».

Однако в XXI веке, а точнее в последние годы, стали наблюдаться три новых качественных изменения, вызванных появлением и широким развитием информационного общества.

1. Социальные медиа и социальные сети стали основными источниками новостей.

2. Фейковые новости обрели широкое разнообразие как по форме, так и по тематике: от теории заговора, псевдонаучных материалов, гиперпартийного контента, сфабрикованных новостных отчетов до технологической вершины – так называемых глубоких фейков.

3. Фейковые новости стали порождать вирусные мемы, превращающие фейк-ньюс в самый влиятельный вид контента в социальных медиа.

Поэтому, если мы хотим выжить в этой токсичной инфосреде и при этом не выжить из ума, погрузившись в фейковую инфореальность, нам необходимо:

– знать и понимать механику, порождающую фейковую инфореальность;

– найти и освоить инструментарий для борьбы с этой механикой – вроде исторического осинового кола или серебряных пуль для изведения вампиров.

Чтобы узнать и понять механику, необходимо как минимум прочесть только что опубликованный меморандум основателя проекта «Обсерватория социальных медиа» (OSoMe) профессора Филиппо Менцера и его коллеги Джованни Лука Чампалья.

Если предельно коротко, то умышленная деза для порождения вирусных мемов (а это цель дезинформирования) использует тараканов в наших головах, коими, как вы уже поняли, я для краткости называю искажения и предубеждения различной этиологии.

Таких этиологий три: когнитивная, социальная и алгоритмическая.

Про когнитивные искажения и предубеждения многие так или иначе слышали. Но особенность момента в том, что созданы новые технологии, например, социальные боты, астротурфинг (технология искусственного создания общественного мнения) и т.п., превращающие дезу в вирусные мемы, целенаправленно используя наиболее распространенные когнитивные искажения, предубеждения, мифы.

Эта распространенность вызывает своеобразное «эхо», возникающее в любой замкнутой изолированной инфосреде (коими являются большинство социальных медиа). Разработана технология усиления этого «эха», позволяющая использовать не только злонамеренные «вопли» соцботов, но и непреднамеренные «возгласы» расширяющих дезинформацию силами впечатлительных пользователей.

Самые крутые боты – в твоей голове

Именно социальные искажения и предубеждения способствуют лавинообразному росту раскола и поляризации всевозможных «нас против них». А не убрав ограды социальных резерваций или хотя бы не наделав между ними мостов, с нарастающим расколом не справиться.

А вот алгоритмическая этиология искажений и предубеждений коренится в сетевых алгоритмах персонализации, определяющих, что видят конкретные люди, находясь в Сети.

Это и рекламные инструменты, встроенные во многие платформы соцсетей, и алгоритмы выявления популярности контента, репутации конкретных пользователей, рекомендации, советы и многое другое – растут как грибы.

Однако самое неприятное в том, что практически все алгоритмические искажения могут управляться ботами. И если бот создан со злонамеренными целями (например, влияние на выборы), то он запросто может таким управлением усиливать действенность дезы, порождать астротурфинг и многое другое.

Что же касается борьбы с фейковой инфореальностью, то такой инструментарий создается в рамках проекта «Обсерватория социальных медиа» (OSoMe), направленного на изучение распространения информации в Сети и дискриминирование механизмов, способствующих распространению мемов в социальных сетях.

Проект носит междисциплинарный характер, объединяя усилия компьютерщиков, физиков, журналистов, политологов, социологов, а также нейроученых (для выявления связей между структурами распространения информации в социальных сетях и мозгом).

В основе поиска «Обсерваторией социальных медиа» корреляций между онлайновыми и офлайновыми событиями положена визуализация временных, географических и сетевых моделей распространения мемов и всплесков вирусной активности.

Главная цель проекта – понять, как можно настроить социальные медиа, чтобы манипулировать общественным мнением, проникать в политический дискурс, влиять на фондовый рынок, красть личную информацию и распространять дезу.

Разработанные проектом OSoMe инструменты построены на агентском моделировании, теории диффузии мемов и прогнозировании, какие мемы будут вирусными.

Базовый инструмент – инфраструктура обнаружения социальных ботов с публичным API, называемая Botometer. Такая же «искалка» используется, в частности, военными и разведкой США.

«Фейк или важная новость... Может, монетку бросить?» Фото Depositphotos/PhotoXPress.ru

Для тренировки по выявлению фейков разработана бесплатная мобильная новостная игра Fakey. Попробуйте себя, насколько вы эти фейки можете распознавать.

В этом хорошую помощь может оказать МIP – Методика Идентификации Пропаганды.

Исследования проекта OSoMe показывают, что только технологическими методами наступающую тьму фейковой инфореальности не остановить. При решении этой глобальной проблемы нужно учитывать ее когнитивные и социальные аспекты.

Иначе человечество, как уже было, забудет плоды просвещения и снова погрузится в темноту. На сей раз в темноту тотальной лжи, для которой уже придумали такой лживый мем, как «постправда».

От стыда краснеют не только левые силы

Оказывается, что чувство стыда – это не слабость. Просто эта эмоция определяет наши действия и защищает нашу психику от распада. Это выяснилось, когда была построена некая ментальная карта процесса, определяющего, какие из доступных нам действий мы предпринимаем, а какие нет.

Движением по карте управляет система «ментальных стрелок», устанавливающих уровень стыда, который вы способны перенести (буквально как боль – физическую или душевную) в результате своих неправедных действий.

Например, выяснилось, что фраза «позор тебе» оказывает разрушительное воздействие на психику человека. Но это оказалось частностью. Важнее было установить, как возникает чувство стыда и есть ли у него цель.

Дело в том, что некоторые теоретики утверждают, что чувство стыда – это патология, своего рода болезнь, которую нужно вылечить. Есть и те, кто отвергает это переживание как бесполезную, уродливую эмоцию.

Все оказалось совсем не так. Новейшее исследование показывает – позор был встроен в природу человека эволюцией в качестве важнейшей нейронной функции, необходимой охотнику-собирателю.

Описания работ этого эволюционного алгоритма примерно таковы:

– я живу в составе небольшого племени и подвергаюсь по жизни всяким рискам – то в яму упаду, то на медведя нарвусь, то жрачка закончится, короче, жизнь тяжела и опасна;

– мое выживание напрямую зависит от того, помогут ли мне мои соплеменники (из ямы выбраться, от медведя отбиться, корм найти);

– но станут ли мне мои соплеменники помогать, зависит от их отношения ко мне. Назовем это кармой. Если карма высокая – все мне помогают. Если низкая – рассчитывать не на кого.

Отсюда возникает вопрос, что дороже:

– здесь и сейчас спереть или отнять у соплеменника кусок жирного вкусного мяса, но нанести ущерб собственной карме,

– или черт с ним, пусть жрет, а я потерплю, но зато нет ущерба для кармы.

Вот тут-то эволюция и придумала, как интенсивность ожидаемого чувства стыда соизмерить с внутренне сгенерированным предсказанием того, насколько могут обесцениться отношения с племенем, и какие это может иметь для индивидуума последствия.

Эта модель была проверена на 15 лингвистически, этнически, экономически и экологически разнообразных обществах, принадлежащих к разным культурам. Всюду она работала как часы. Интенсивность чувства стыда от различных воображаемых действий или переживаний – например, воровства, проявления скупости, лени и т.д. – растет в четкой функциональной зависимости от моделируемого ущерба, а также от конкретной культуры и условий жизни.

Эти работы проводились при активном усилии Центра эволюционной психологии в Санта-Барбаре (Center for Evolutionary Psychology). Этой же научной структуре мы обязаны публикациями о том, что выявили исследования.

Выводы прорывных работ были таковы:

– стыд и позор – не просто чувство или мотиватор. Это важнейшая нейронная реакция, связанная с предсказанием и балансировкой компромисса между выгодой от действий личности и снижением ее общественного статуса;

– чтобы этот механизм стыда ощущался нами максимально сильно, эволюция выстроила его по лекалам нейроалгоритмов боли. В результате при сильном стыде и позоре душевная боль сродни физической;

– и хотя раньше считалось, что три разных типа существующих на земле культур доминантно были ориентированы на вину, страх и позор, чувство стыда оказалось универсальным для всех культур.

В итоге оказалось, что стыд является частью человеческой природы – такой же, как способность говорить на любом из языков людей.

Была ли «у советских собственная гордость»

Расшифровка «блок-схема» нейроалгоритма гордости изменила наши представления о значимости эмоций и интеллекта в жизни человека. Оказалось, что ум – лишь видимая нам вершина айсберга.

Под интеллектом была обнаружена гигантская основа эволюционирующих нейронных программ, кодирующих и управляющих нашими чувствами – эмоциональными инстинктами.

Библиотека этих нейронных программ разума (в его современном понимании) развивается лишь с момента обретения человеческого языка (примерно 200–250 тыс. лет назад).

Страшно подумать, но на создание гигантской библиотеки эмоциональных нейропрограмм, включая их разработку, отладку и совершенствование, эволюция потратила куда больше сил и времени. По разным оценкам, это заняло от 6 до 13 млн лет.

И при этом мы никак не хотим признавать, что даже наши самые высокие помыслы и деяния управляются не нашим культурным кодом – продуктом культурного развития цивилизации, а всего лишь «низкими чувствами», закодированными в библиотеке эмоциональных нейропрограмм.

Так неужели, подобно «низким», «животным» чувствам типа гнева и страха, наше «высокое» чувство гордости (за ту же Нобелевскую премию или за поэтический взлет Пушкина) также является лишь побочным продуктом работы библиотеки эмоциональных нейропрограмм?

Оказалось, да.

Этому открытию мы обязаны превосходной научной работе междисциплинарной группы 16 специалистов из США, Канады, Японии, Германии, России, Китая, Эквадора и Нигерии.

Интересно, что часть интереснейших вопросов ставилась уже далеко не впервые. Например, такой: «Гордость – это грех или стимул?» Давно пытливые умы интересовало, увеличивает ли интенсивность ожидаемой человеком гордости то, насколько другие могут оценить эту беспокойную личность. Хотелось узнать, как при этом балансируют и компенсируются действия человека и их социальные последствия.

Другие же вопросы, пожалуй, самые важные, были поставлены впервые.

И вот какие ответы переворачивают наши представления о гордости.

Стало известно, что гордость – это эволюционный продукт эмоциональной адаптации человека, одинаково работающий в любых культурах.

Оказалось, что в наших головах есть универсальная неявная ментальная карта того, что и как другие люди ценят в нас, и это проверено на 16 странах четырех континентов.

Таким образом, отнесенная, как известно, к семи смертным грехам гордость вовсе не такова.

Скорее, это движущая сила всех великих открытий и ошибок – результат эволюции наших эмоциональных нейрокодов, поднявших социальные возможности человечества на немыслимую для социальной биологии высоту.