Как искусственный интеллект оправдал наши опасения в 2020

Несмотря на разочаровывающее отсутствие неоновых вывесок, мы уже находимся в новой эре под предводительством ИИ. Оглянитесь вокруг - скорее всего, вы увидите какое-нибудь “умное” устройство, пусть и его ум находится на уровне двухлетнего ребенка.

Чего же тогда бояться?

Тихое проникновение ИИ в нашу жизнь, пусть и на самых ранних этапах его развития, сделало нас невосприимчивыми к опасностям, присущим “умным” технологиям. И правда, какую опасность может представлять голосовой помощник или умная колонка?

Но такой ход мыслей ведет нас по скользкой дорожке игнорирования возможных опасностей ради извлечения максимальной пользы из ИИ.

Для человечества это совершенно новая ситуация. Никогда раньше мы не имели дела с технологией, способной к самосовершенствованию и постановке своих собственных задач.

Мы возложили наши надежды и мечты о светлом будущем на искусственный интеллект, что делает любого, кто поднимает идеи о том, что ИИ может принести больше вреда, чем пользы, паникером, боящимся всего нового. 

И пока мы спорим о том, является ли искусственный интеллект спасением или гибелью человечества, он все глубже проникает в нашу повседневную жизнь, изменяя каждого в частности и общество в целом.

Мы достаточно долго игнорировали это. Теперь человечество столкнулось с кризисом беспрецедентного масштаба. Мы никогда не видели технологии, столь широко распространенной и пользующейся доверием общества, в то же время лишенной информационной открытости и полностью нерегулируемой.

Чем дальше мы будем идти, тем будет хуже. Мрачное дистопичное будущее станет нашей новой нормой. 

На самом деле, оно уже здесь.
 

Большая часть инфопотока теперь находится онлайн. Facebook, Reddit, Instagram, онлайн новостные площадки - сейчас люди потребляют большую часть информации через интернет. Информация - это сила, и те, кто ее контролируют, могут управлять мнением общества о наиболее важных и острых темах.


Появление систем фильтрации контента было только вопросом времени. Сейчас они являются неотъемлемой частью большинства онлайн-сервисов и популярных приложений.

Алгоритмы сортировки и рекомендации контента собирают как можно больше информации о пользователе, чтобы понять, какой контент ему будет наиболее интересен. В теории звучит хорошо, но на практике передача алгоритму права выбора информации, которую мы потребляем, несет большую опасность.

По своей природе эти алгоритмы предлагают нам только тот контент, с которым мы будем взаимодействовать, чтобы каждый из нас проводил как можно больше времени на той или иной платформе. Простота на поверхности, но все далеко не так невинно внутри.

Склонность к подтверждению своей точки зрения заставляет нас взаимодействовать только с тем контентом, который поддерживает нашу точку зрения, а не идет в разрез с ней. Алгоритмы рекомендации контента действуют как лупа человеческого мышления, создавая эхо-камеры, валидируя опасные или ложные идеи путем постоянной рекомендации одного и того же типа контента.

И это только верхушка айсберга. Мы все видели, как легко изменить общественное мнение путем продвижения одних информационных каналов и подавления других.

Интернет, как одно из последних мест, где можно реализовать свое право на свободу слова, давно находится под атакой правительственных и корпоративных ограничений, которые фильтруют информацию, которую могут потреблять обычные пользователи.

Использование систем рекомендации контента в более широком масштабе, скажем, для блокировки целых сайтов для определенных групп людей, кажется неизбежным. Информация слишком ценный ресурс, чтобы позволить ей свободно распространяться. Можно с почти полной уверенностью сказать, что этого больше не происходит.

Многие мечтали об умном голосовом помощнике. Скорость современной жизни сделала время самым ценным ресурсом, а делегирование рутинных задач умному помощнику может сэкономить много времени.

С появлением умных колонок и голосовых помощников в смартфонах, ИИ стал ближе к нам, чем когда-либо.

Умные колонки и голосовые помощники по своей  природе должны всегда слушать, что мы говорим, чтобы уловить слово-триггер. Попробуйте описать умную колонку, не используя слов “искусственный интеллект” и “цифровой помощник”, и вы опишете оруэлловскую антиутопию - круглосуточный мониторинг вашей жизни без права на личную жизнь.

Мы стали свидетелями практически полного уничтожения права человека на личную жизнь, не имевшего никакого отпора или общественного резонанса. Все мы приняли постоянное наблюдение как норму, обменяв тайну личной жизни на возможность выключить свет или установить таймер голосом.

Софткор-версия круглосуточного наблюдения под прикрытием технологического прорыва действительно ужасает. Использование ИИ для шпионажа за людьми гораздо эффективнее хранения телефонных звонков и текстовых сообщений, ведь ИИ мгновенно понимает о чем мы говорим.

Мы впустили ИИ в наши дома прежде, чем была выработана законодательная база, защитившая бы нашу частную жизнь. Возможно, это было роковой ошибкой, и теперь уже поздно что-то исправлять - умными колонками и голосовыми помощниками каждый день пользуются миллионы людей по всей планете.

Распознавание лиц с каждым днем развивается все больше. Основная часть этих разработок остается незамеченной нами, что дает корпорациям и правительствам достаточно времени для внедрения новейший систем распознавания лиц в наши города.

Раньше камеры наблюдения на выход давали лишь размытую картинку, теперь же они могут определить каждого человека по его лицу и предоставить всю имеющуюся о нем информацию.

Теперь каждое наше движение может быть задокументировано, наши лица - сохранены в архивах для того, чтобы определить любого из нас, кому не повезет попасться на глаза умной камере. Правительства по всему миру теперь обладают беспрецедентной силой. От массового преследования и лишения свободы неугодных граждан до систем социального кредита - распознавание лиц может все!

Теперь, когда наблюдение за гражданами достигло своего исторического пика, те, кто имеет доступ к “умным” камерам, могут не только видеть где мы были, но и каковы были наши намерения.

Одна из последних разработок в области распознавания лиц теперь используется в банковской сфере. Выдача кредитов, по большей части, это оценка рисков. банку важно знать, насколько можно доверять своему клиенту и с какой вероятностью он сможет вернуть долг в полном объеме.

Вот тут-то и вступает в игру ИИ, который анализирует лицо человека во время беседы в банке, чтобы определить врет ли он и в каком эмоциональном состоянии находится. Такие системы вскоре заменят человека-интервьюера и станут единолично принимать решения о выдаче кредита.

Выдача кредита - не единственная ситуация, в которой ИИ принимает решения, определяющие нашу жизнь.

Распространенный страх роботов, отбирающих места у честных рабочих, являются наименьшей из наших забот. Под угрозой находятся все работающие люди. Умные HR системы будут определять не только на какую должность принять человека, но и как долго он будет занимать это место и как с ним следует обращаться.

Обилие резюме вынуждает HR отделы внедрять умные системы фильтрации. Желание максимально снизить риски и бесконечная гонка за увеличением прибыли делает необходимым для компаний получение максимально возможного количества информации о своих будущих работниках.

Использование умных анализирующих систем удовлетворяет эту необходимость. Умные системы найма теперь находят информацию о соискателе, которая ранее была недоступна. Они анализируют всю доступную в интернете информацию, включая личные аккаунты в социальных сетях, чтобы оценить его благонадежность, как долго он проведет на этой должности и как на него можно влиять.

Все, что любой из нас когда-либо размещал в интернете, теперь может быть использовано против нас, а наше будущее, которое для большинства людей тесно связано с их местом работы, находится в виртуальных руках ИИ.

Можно надеяться, что работодатели продолжают нанимать людей по-старинке, оценивая их согласно их опыту, однако это маловероятно - ИИ работает гораздо быстрее человека, может анализировать больше данных, и, по крайней мере в теории, не предвзят.

Мы в значительной степени перенесли свою жизнь в интернет. Публикуя свои фото и видео, мы невольно становимся потенциальными жертвами нового вида мошенничества, которое невозможно остановить, а порой и обнаружить.

Дипфейки стали ужасающим, однако и впечатляющим, детищем ИИ. Конечно, забавно смотреть на киногероев, чьи лица были заменены на другие, но возникает важный вопрос - можем ли мы отличить реальное видео от дипфейка, и если да, то как?

Ответ в том, что ответа нет. На сегодняшний момент нет ни одного надежного способа определения дипфейка. Они - бомба замедленного действия, готовая взорваться в самое неподходящее время. Искусственно синтезированная аудио или видеозапись, опубликованная в нужное время, может начать международный конфликт.

Представьте себе сгенерированную ИИ запись черного ящика, или дипфейк, изобличающий видного политического деятеля, загруженное в социальные сети в нужный момент. Это может вызвать беспорядки или даже вооруженный конфликт.

Неужели мы все обречены?

Да.

Мы уже слишком далеко впустили ИИ в нашу жизнь. От смартфонов до камер наблюдения на улицах - все слушает, наблюдает и анализирует.

Все, что остается делать, это пытаться извлечь из этого как можно больше пользы. ИИ может быть использован в продуктивном и позитивном ключе, если использовать его с осторожностью. Законодательная база и регламентация - два важнейший аспекта любой умной системы. Обеспечение на только эффективности, но и безопасности должно стать важнейшим приоритетом для разработки любого ИИ.

Оставаться в курсе последних разработок в области ИИ может - и должен - делать каждый. Информация - это сила не только для тех, кто ей управляет, но и для тех, кто ее потребляет. Мы должны взять на себя ответственность за то, чтобы оставаться в правильном информационном пространстве и принимать необходимые меры.

Мы вступили в цифровую эпоху, в которой технологии стремительно развиваются, быстро превращаясь в то, что до недавнего времени считалось далеким будущим.

Сложно сказать, какой курс возьмет человечество под влиянием ИИ. Возможно, у нас все еще есть время, чтобы изменить ситуацию к лучшему. Тем не менее, ситуация может значительно ухудшиться прежде чем мы увидим положительные изменения. Будем надеяться, что это не разрушит общество и не изменит нас как людей.