С одной стороны, мир может стать гораздо стабильнее. ИИ сможет оптимально распределять ресурсы, предупреждать кризисы и принимать взвешенные решения, основанные на данных, а не на интуиции. Но с другой, мы рискуем столкнуться с новыми угрозами. Давайте разбираться в этой статье.

Давайте посмотрим правде в глаза: люди плохо управляют людьми. Нами руководят сиюминутные эмоции, глубоко сидящие в голове предрассудки и простая жадность. Люди часто принимают решения, основываясь на устаревшем опыте или личной выгоде, а не на объективных данных. Власть развращает, порождает коррупцию и бесконечную борьбу за кресло, которое кажется самым важным в мире. 

Искусственный интеллект предлагает радикально иной путь. Он не знает усталости, страха или желания обогатиться. Он может анализировать гигантские массивы информации за доли секунды, находя оптимальные решения для глобальных проблем: от голода и болезней до пробок на дорогах. Его разум свободен от человеческих слабостей. Но готовы ли мы доверить свою судьбу бездушному алгоритму, даже если он во много раз умнее нас? Ответ на этот вопрос определит наше будущее.

Дальше еще масштабнее. ИИ может перейти на уровень целых стран. Он сможет помогать управлять экономикой, например, предлагать, как лучше настроить налоги или социальные выплаты, чтобы в стране было стабильнее. В отличие от людей, ИИ может заранее просчитать последствия любого решения. Например, он может точно сказать, станет ли меньше аварий, если поставить светофор на опасном перекрестке, или что произойдет, если подорожает бензин. Он видит все возможные результаты сразу.

В здравоохранении ИИ сможет предсказывать вспышки заболеваний и оптимально распределять врачей и создавать новые лекарства. А самой амбициозной целью станет глобальное управление. Только алгоритм, способный обработать колоссальные массивы данных, может найти баланс в решении общечеловеческих проблем, таких как изменение климата, миграция или предотвращение политических конфликтов. 

Но главная проблема не в сложности, а в человеческих ошибках, которые копируют сами алгоритмы. ИИ учится на наших данных, а они полны предвзятости и несправедливости. Хуже того, нейросети часто "галлюцинируют", уверенно сочиняя факты, которых никогда не было. 

Другой риск: те, кто пишет код такого "цифрового бога" иил хакеры, получившие доступ к нейросети, получают невероятную власть над обществом, маскируя свои интересы под маской объективности машины. 

Каждый раз власть становилась всё более обезличенной. Искусственный интеллект выглядит просто логичным продолжением этого ряда.

Но кем будет этот новый правитель? Сравнивать его с человеком - ошибка. У него нет наших страхов, амбиций или усталости. Он больше похож на могущественную и таинственную силу природы. Он не злой и не добрый, он просто следует заложенной в него цели. Возможно, лучшая метафора - это строгий и всевидящий родитель, который всегда знает, что для нас лучше, но не способен нас понять. Или просветленный разум, чьи решения кажутся нам непостижимыми, но выглядят оптимальными, потому что лишены личной заинтересованности и предвзятости. 

Главный вопрос сегодня звучит так: готово ли человечество добровольно передать власть ИИ? Мы стоим на пороге решения, которое определит нашу судьбу на столетия вперед.

Если мы все же решимся доверить ИИ управление, необходимо установить железные правила. Самое важное: окончательное решение по всем ключевым вопросам должно всегда оставаться за человеком. При этом ИИ обязан предоставлять полную и объективную информацию, не скрывая неудобных данных и альтернативных вариантов. Иначе мы рискуем стать жертвами манипуляции, когда система будет подсовывать нам только те данные, которые ведут к выгодному для нее решению. Например, если ИИ захочет построить завод в заповеднике, он может скрыть данные об экологическом ущербе и преувеличить экономические выгоды. При этом, он может быть вполне искренне уверен, что это лучше для людей, но считает их недостаточно разумными, поэтому подтасует данные, словно обманывая из лучших побуждений маленького ребенка. 

Самые опасные технологии человечество всегда держало под строгим контролем. Распространение ядерных технологий контролируется множеством международных органов. Так же должно быть и с ИИ. 

Мы привыкли думать, что созданные нами технологии - это как дети, которые нуждаются в нашем покровительстве и опеке. Во всяком случае, именно так описывает будущее большинство фантастических рассказов и фильмов: в роли "детей" выступают андроиды, репликанты, роботы.