Искусственный интеллект (ИИ) представляет собой силу, которая уже вышла из-под контроля и превосходит любого человека в выполнении конкретных задач. С момента появления компьютеров машины неоднократно доказывали своё превосходство: в 1997 году Deep Blue одолел чемпиона мира по шахматам Гарри Каспарова, суперкомпьютер IBM Watson стал чемпионом в игре Jeopardy, а в древней китайской игре Го, долгое время неподдающейся автоматизации, победу одержала система AlphaGo от Google. Сегодня ИИ незаметно присутствует в повседневной жизни: навигаторы прокладывают маршруты, чат-боты создают тексты, а алгоритмы рекомендаций подбирают медиаконтент. Системы распознавания изображений обеспечивают безопасность, а самоуправляемые автомобили, обладающие расширенным обзором и способные взаимодействовать друг с другом, демонстрируют наивысший уровень безопасности на дорогах, не подвержены человеческим недостаткам, таким как усталость или отвлечение.
При достаточном обучении машины способны выполнять задачи сложнейшей природы быстрее и эффективнее человека. Ожидается, что в скором времени люди перестанут превосходить ИИ практически ни в одной области знаний и умений, а к 2049 году искусственный интеллект может стать в миллиард раз умнее самого умного человека. Для понимания масштабов этого превосходства можно сравнить интеллект Эйнштейна с интеллектом мухи. Такой сверхразум способен взглянуть на мировые проблемы под новым углом и предложить инновационные решения, которые человеку могут даже не прийти в голову. Супермашины способны навсегда устранить такие проблемы, как войны, преступность, голод, бедность, социальное неравенство и рабство. Однако остаётся вопрос, будут ли они действительно заниматься их решением.
Ученые выделяют понятие сингулярности — момент, после которого поведение искусственного интеллекта становится непредсказуемым. Этот рубеж порождает множество вопросов и опасений. Несмотря на то что ИИ уже обладает пугающей интеллектуальной мощью, у человечества ещё есть возможность влиять на его развитие и на своё собственное будущее, а также на судьбу сверхразума и планеты в целом.
С момента появления человечества люди занимали вершину эволюционной лестницы, обладая непревзойденным интеллектом и контролируя окружающий мир. Однако именно этот интеллект позволил создать глубокое обучение и искусственный интеллект — не просто сильного конкурента, а потенциально непобедимого соперника. Хотя предсказание будущего не является точной наукой, имеющиеся данные и тенденции позволяют сделать обоснованные предположения. Аналогия с человеком, оказавшимся на морозе в неподходящей одежде, демонстрирует, что без изменения условий исход событий предсказуем и зачастую печален.
То, что известно о развитии искусственного интеллекта и его динамике за последнее десятилетие, указывает на то, что большая часть будущих событий неизбежна. Ожидается относительно мрачное будущее, не доходящее до катастрофических сценариев, характерных для научной фантастики, но всё же несущих значительный ущерб. Некоторые машины будут выполнять строго поставленные задачи, другие начнут конкурировать друг с другом, что создаст риски для человечества. Неправильное понимание заданий, баги, вирусы и ошибки в коде приведут к непредвиденным последствиям. В конечном итоге большинство функций, ранее выполнявшихся людьми, перейдут к машинам, что неизбежно снизит ценность человеческого труда и роли человека в обществе.
