Искусственный интеллект: угроза для человека?
Перегружать людей различными видами деятельности – например, водить механические транспортные средства – может показаться довольно заманчивым и вызвать вывод о том, что искусственный интеллект следует разработать как можно скорее. Несмотря на это, есть голоса, что искусственный интеллект на самом деле … представляет угрозу для человеческого вида. Эту точку зрения высказывает все большее количество ученых, одним из которых является известный физик Стивен Хокинг.
Обоснованием этих опасений может быть, например, то, что да – точно так же, как эффекты, получаемые с помощью искусственного интеллекта, заметны, способы достижения потрясающих результатов – не обязательно. Бывают ситуации, когда программисты, которые создали данную машину с искусственным интеллектом, сами не знают, как и почему она работает определенным образом, и почему она принимает такие и никакие другие решения.
Если точно не известно, как работает искусственный интеллект, невозможно также предсказать поведение интеллектуальных машин. Здесь можно привести простой пример: беспилотный автомобиль должен доставить нас на работу как можно скорее.
Да, машина может следовать команде и действительно двигаться быстро, но остается один вопрос: что она будет делать, когда попадет на красный свет? Будет ли он эксплуатироваться в соответствии с правилами дорожного движения? В устройствах, запрограммированных в соответствии с человеческой волей, поведение в таких событиях можно предсказать, в случае систем, способных к обучению, – не обязательно.
Неспособность предсказать, как будет работать искусственный интеллект, безусловно, может рассматриваться как угроза, связанная с этими технологиями. В конце концов, может случиться так, что восстание машин – то есть явление, которое пока можно увидеть только на страницах книг – может в конечном итоге стать реальностью.