Виталик Бутерин: «Искусственный интеллект может восстать против человечества»

Сооснователь Эфириума Виталик Бутерин выразил опасения по поводу сверхразвитого искусственного интеллекта (ИИ) — если его оставить без контроля, то у него есть шансы стать «высшим видом» планеты.

Виталик Бутерин опубликовал в блоге статью, где признал, что ИИ фундаментально отличается от других древних и современных изобретений, будь то социальные сети, контрацепция, самолеты, оружие, колесо или печатный станок. ИИ — это новый тип разума, он быстро учится и повышает интеллект, поэтому может превзойти людей в умственном плане. Искусственный интеллект способен создать новый тип «разума», который может обернуться против людей, опасается Бутерин.

Бутерин утверждает, что в отличие от изменения климата, искусственно созданной пандемии или ядерной войны, в перспективе «сверхразум» может положить конец человечеству и не оставить никого в живых, особенно если он посчитает людей угрозой собственному выживанию. Бутерин упомянул опрос, проведенный в августе 2022 года более чем 4 270 исследователями машинного обучения. По их оценкам, вероятность того, что ИИ убьет человечество, составляет 5-10%.

Бутерин подчеркнул, что подобные заявления могут быть крайностью, но у людей все же есть способы одержать победу над ИИ. Сооснователь Эфириума предложил внедрить интерфейсы «мозг-компьютер» (BCI). Это своего рода связь между электрической активностью мозга и внешним устройством. BCI могут предоставить людям прямой доступ к мощным формам вычислений и знаний, сокращая цикл двусторонней связи между человеком и устройством от нескольких секунд до миллисекунд. Это значительно снизит затраты на умственные усилия, что позволит более эффективно собирать данные, выдвигать предложения или выполнять планы, уверен Бутерин. Таким образом, ответственность за принятие решений не будет перекладываться на ИИ, и это уменьшит вероятность того, что ИИ самостоятельно предпримет действия во вред человечеству.

«Улучшить мозг можно и с помощью биологических инноваций. Чтобы объединить их с BCI, можно было бы загрузить наш разум для прямой работы на компьютерах. Обеспечение физической безопасности для мягких человеческих тел уже не будет сложной проблемой, останется лишь решить вопрос с созданием резервных копий данных», — написал Бутерин.

Недавно Виталик Бутерин затронул тему квантовых компьютеров, заявив, что квантовые вычисления могут стать серьезным вызовом для криптоиндустрии и подорвать неизменность блокчейна. В прошлом году Бутерин предложил новую концепцию невзаимозаменяемых токенов (NFT), так называемых «soulbound», которые было бы невозможно передать или продать другим пользователям.

Источник