Можем ли мы предсказать будущее с помощью компьютеров? В определенном смысле, да. Сегодня мы уже используем различные типы моделирования или даже численные прогнозы погоды. Тем не менее, существует класс систем, которые занимаются «более реальными» прогнозами будущего.
Единственная разница между реальностью и книжной фантастикой заключается в том, что сегодня мы не используем никаких ясновидящих, только предсказательные алгоритмы.
Однако, использование компьютеров для своевременного реагирования на то, что может произойти, иногда вызывает определенный внутренний протест. Интересно, что, по мнению науки, это абсолютно оправдано. Ведь иногда компьютерные предсказания очень полезны для нас, а иногда... становятся самоисполняющимся пророчеством.
Футуристические амбиции FB
Крупнейшая в мире социальная сеть также стремится стать чем-то большим, чем просто местом для публикаций и лайков. Уже в конце 2018 года Facebook подал заявку на патент для защиты решения, разработанного компанией Цукерберга, под названием Offline Trajectories.
Что происходит? Это технология, использующая искусственный интеллект – её основная задача заключается в прогнозировании будущих местоположений пользователя социальной сети. Да, вы правильно прочитали – это значит, что Facebook знает, где вы находитесь (вы и все ваши друзья, а также все пользователи социальной сети). Это известный факт. Offline Trajectories предназначены для эффективного прогнозирования, где вы будете завтра.
Как такое решение будет работать? Как и во многих других алгоритмах, основной проблемой являются данные, огромные наборы данных. Информация о текущем местоположении, а также всех местах, где вы бывали. Не только мы, но и все люди, которые связаны с нами на Facebook. Конечно, у всех нас есть рутина, ежедневный набор обязанностей – если мы ездим в один и тот же офис каждый рабочий день в течение 10 лет, нам не нужен сложный искусственный интеллект, чтобы догадаться, что завтра – если это не выходные – мы также появимся в офисе.
Но, идея Facebook идёт глубже – интеллектуальные алгоритмы, функционирующие как часть Offline Trajectories, должны эффективно прогнозировать менее рутинные действия и местоположения в будущем.
Представитель Facebook, Энтони Харрисон, после подачи заявок в заявлении, цитируемом BuzzFeed, заявил: «Мы часто оформляем патенты на технологии, которые никогда не используем позже, и поданные заявки не должны рассматриваться как индикатор будущих планов»
С одной стороны, эта тактика может показаться понятной – в конце концов, каждый игрок на современном рынке технологий использует патентное право для защиты своих идей, даже если они являются лишь потенциальным коммерческим решением в будущем. Однако, Facebook ещё не показывал себя как «патентного тролля», то есть всё что они делают имеет некий смысл.
Фактом является то, что с момента подачи заявок на патент Facebook успокоился. Значит ли это, что Facebook забыл об этом решении? Не обязательно, потому что преимущества использования алгоритмов прогнозирования местоположения пользователя в этой гигантской социальной сети могут быть действительно значительными.
Facebook, Google и другие интернет-гиганты получают основную часть своего дохода от онлайн-рекламы. Вы наверняка понимаете как работает механизм контекстной рекламы, который использует Google. Простой пример – вам нужна стиральная машина: просмотр онлайн предложений, покупка стиральной машины, вопрос исчерпан? Но, пока вы будете просматривать сайты в Интернете, реклама стиральных машин будет преследовать вас некоторое время в блоках AdSense.
Принцип работы Google AdSense прост – анализ того, что вы ищете, и представление соответствующей информации в блоках AdSense? Но, насколько эффективнее рекламное сообщение достигнет потребителя если он будет видеть его не только в нужно время, но и нужном месте?!
Тот факт, что мы не слышим о таком решении, не означает, что Facebook или другие гиганты отрасли не работают над ним. Потенциальные выгоды слишком велики, и информирование людей о существовании таких решений, хотя это морально целесообразно, к сожалению, противоречит интересам бизнеса...
Однако, рекламное послание, созданное искусственным интеллектом, который «знает», что мы будем делать и где мы будем через час или завтра, не может иметь столь далеко идущих последствий, как решения в области интеллектуальной защиты или, прямо скажем, выявление потенциальных преступлений до их совершения.
Теоретически, это хорошая новость: разве мы не хотим мир без преступности? Реальность, однако, гораздо мрачнее – потому что, если мы внимательно посмотрим на эту проблему, мы с ужасом обнаружим, что работа искусственного интеллекта в задачах прогнозирования часто становится самоисполняющимся пророчеством, а ценой – возможно – меньшего количества преступлений, являются социальные разногласия, неравенства и потеря гражданских свобод...
Цифровая аналитика и профилактика
6 июля этого года The New York Times опубликовала информацию о том, что один из стартапов Силиконовой долины – Palantir Technologies– готовится к публичному выходу, и IPO Palantir имеет шанс стать столь же впечатляющим событием на фондовой бирже, как и выход на публичный рынок Uber.
Хорошо, некая технологическая компания становится публичной, что в этом интересного? Интересно то, благодаря чему Palantir стал известен, потому что одним из решений, разработанных этой компанией, являются системы прогнозирования, которые используются, например, армией и полицией.
Результаты испытаний показали, что современные информационные системы, ответственные за прогнозирование поведения человека в контексте как личности, так и общества, всё ещё далеки от реальности. Тем не менее, возможности полного контроля над гражданами соблазняют многих, поэтому мы можем быть уверены, что власти продолжат попытки создания подобных систем. Но, давайте начнём с самого начала.
Palantir – компания, основанная в 2003 году, всего через год после того, как знаменитый фильм «Особое мнение» был показан в кинотеатрах по всему миру. Возможно, фантастические видения Филипа К. Дика, перенесенные на экран, сильно повлияли на воображение основателей компании. В любом случае, с самого начала своей деятельности компания сосредоточилась на создании машинно-обучаемых аналитических и прогностических алгоритмов, использующих огромные массивы данных.
Одним из успехов инструментов прогнозирования и анализа, разработанных этой компанией, был арест и судебное разбирательство в 2009 году в отношении Берни Мэдоффа – финансиста и создателя великой финансовой пирамиды. Мэдофф был приговорен к 150 годам тюрьмы.
Компания также сообщает на своём сайте о других успехах, достигнутых благодаря разработанным технологиям. Так, голландская полиция, благодаря интеллектуальным алгоритмам для анализа фотографий и цифровых следов, разработанных Palantir, сумела захватить всю сеть преступников, занимающихся производством нелегального цифрового контента. Это показывает, что искусственный интеллект в роли аналитика может значительно улучшить деятельность правозащитных служб.
Однако, есть разница между аналитикой и попыткой предсказать будущее.
Интеллектуальное прогнозирование преступлений – это метод, который на основе постоянно поступающих данных и исторической информации сообщает следователям, в каком районе города вероятность совершения преступления самая высокая. Проблема этих систем заключается в том, что точный механизм, с помощью которого они работают, остается загадкой. С одной стороны, это логично, поскольку прозрачность работы алгоритма может дать злоумышленникам возможность его обмануть. С другой стороны, какова наша гарантия того, что показания предсказательных механизмов действительно верны?
Эта проблема решается социологами и людьми, занимающимися социальной работой с жителями в «более сложных кварталах». Это особенно заметно, когда нам становится известно о действиях полиции, выполненных в результате работы прогностических алгоритмов. Когда искусственный интеллект определяет регион как потенциальную «точку вспышки» с наибольшей вероятностью совершения преступления, в этот регион направляются значительные полицейские силы. Вид вооруженных полицейских, которые смотрят на каждого жителя, обозначенного алгоритмом как потенциальный преступник, может расстроить даже самого мирного жителя города.
В результате такие «слёты полицейских», организованные алгоритмами, имеют эффект, противоположный предполагаемому – возможно, они предотвращают кражу, но вызывают социальные волнения. Многие общественные деятели справедливо отмечают, что роль полиции заключается не в поиске врага, а в защите населения. Люди совершенно иначе реагируют на вид знакомых полицейских из местного отделения полиции и на хорошо вооруженных офицеров из других частей города, работающих (потому что они знают, что «что-то должно произойти») в режиме поиска и уничтожения.
В этом контексте прогностические алгоритмы в полиции могут оказать «медвежью услугу». Система Палантира, в конечном итоге, была удалена с компьютеров полиции Нового Орлеана, но она работает во многих других местах – не только в Соединенных Штатах. Кроме того, очень многие частные компании хотят предсказывать будущее в цифровом виде.
Искусственный интеллект в магазине
Гораздо лучшая идея, но также провоцирующая яростную реакцию со стороны защитников неприкосновенности частной жизни граждан и противников цифрового профилирования граждан, заключается в использовании прогностических возможностей алгоритмов для противодействия преступлениям меньшего калибра. Примером такого решения является система VaakEye, которая была протестирована в нескольких десятках магазинов самообслуживания в Японии.
Это решение использует живое изображение из систем мониторинга, анализирует ряд факторов, таких как одежда, способ перемещения, жесты, мимика, движение глаз покупателя и даже... погоду вне магазина. В любом случае, этот богатый набор данных используется для оценки вероятности кражи в магазине. Хотя в этом случае мы имеем дело с раскрытием преступлений, характер этого решения весьма отличается от вышеупомянутых систем, обеспечивающих «превентивные» рейды со стороны полицейских команд.
Искусственный интеллект VaakEye был обучен – как мы можем легко догадаться – сотнями тысяч часов видеозаписей из систем мониторинга магазина. Механизм обнаружения, однако, не является радикальным, а работает в определенном масштабе, где только при превышении определенного порогового значения происходит вмешательство правоохранительных органов и, следовательно, полиции.
Насколько точна система VaakEye? Правильное предсказание краж имеет место в 81 проценте случаев. С одной стороны, это больше, чем могут обнаружить человеческие наблюдатели, но, с другой – всё ещё слишком мало для магазинов с высокой репутацией (и подходящим подходом к покупателю), чтобы позволить себе ошибочно обвинять покупателей.
