Путин:
https://gazeta.ru/amp/tech/2019/05/30/12384673/ii.shtml
Президент России Владимир Путин провел совещание о развитии технологий в области искусственного интеллекта, на которых поднял важные вопросы в сфере IT. По словам главы государства, необходимо приложить все усилия для развития и внедрения ИИ, так как монополист в этой области станет «властелином мира».
«Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны — тот станет властелином мира», — цитирует Путина ТАСС.
Новая Газета:
https://www.novayagazeta.ru/articles/20 ... otklyuchit
Как новая сильная технология искусственный интеллект создает множество рисков, которые не всегда нам понятны. Когда появилось атомное оружие, многие боялись, что первый взрыв приведет к цепной реакции, которая уничтожит всю планету. Но про возможность ядерной зимы, например, никто не догадывался.
Доказано, что у любого универсального агента есть базовые конвергентные подцели: это выживание, улучшение себя и сохранение имеющейся системы. Это верно не только для человека, но и для любого ИИ — он все равно сойдется на такой системе базовых инстинктов, если ему не мешать. А если ИИ станет противостоять собственному уничтожению, то нам будет трудно его отключить. Ведь это не просто робот, а программа, которая переходит с одного компьютера на другой. ИИ будет пытаться выключить нас, чтобы мы не выключили его.
Это первое приближение знаменитого примера с алгоритмом, который зациклился на бесконечном расчете числа «пи», в результате чего он застраивает всю землю компьютерами и отстреливает людей, которые ему мешают. Это немного кинематографический сценарий, но на самом деле ничто не мешает ему реализоваться.
Илон Маск:
https://www.kommersant.ru/doc/3359613
«У меня есть доступ к самым передовым разработкам в сфере искусственного интеллекта, и я считаю, что людей должно беспокоить развитие подобных технологий»,— цитирует Fortune основателя SpaceX. Журнал отмечает, что Илон Маск уже давно заявлял о связанных с искусственным интеллектом рисках. Однако в своем выступлении перед американскими губернаторами бизнесмен не только показал особую жесткость своей позиции, но и «решительно призвал» власти вмешаться в ситуацию.
«Проблема искусственного интеллекта — тот редкий случай, когда нам надо проявить активность в регулировании вопроса, иначе может быть слишком поздно. Искусственный интеллект является фундаментальным риском для существования человеческой цивилизации. ДТП, авиакатастрофы, некачественные лекарства или плохая пища таковыми не являются»,— убежден Илон Маск.
По данным Fortune, это «сильное заявление» для человека, который ассоциируется с так называемым киберлибертарианством — идеологией, которая выступает против попыток государства регулировать работу компаний. Одним из последователей идеологии является Питер Тиль, который совместно с Илоном Маском создал платежную систему PayPal, напоминает издание.
Получается примерно такой расклад. Наши “патриоты” с Путиным за то, чтобы форсировать разработку ИИ в России, т.к. если у нас будет прорыв с ИИ – Россия нагнёт весь мир. Позиция же либералов и западных ИТ-лидеров вроде Маска – ИИ опасен, поэтому необходимо максимально контролировать его разработку. Очень бы хотелось, чтобы каждый россиянин задумался, на чьей он стороне.
Вот ещё в тему:
http://lurkmore.to/Ванга
http://lurkmore.to/Чёрный_Властелин
Современный ИИ работает на новых парадигмах программирования – нейросети и ансамбли. Его уже не программируют, а обучают. И сами разработчики этих нейросетей не особо понимают, как у них всё работает. Я сам немного поразбирался в этой теме, и я согласен с Маском что ИИ – это очень реальная угроза для всего.
Накину ещё несколько ссылок:
1) Нейронные сети научились играть в Starcraft 2 на уровне чемпионов:
https://www.youtube.com/watch?v=FEFxLpv-rZM
2) Когда нейронные сети научились играть в шахматы, они легко стали побеждать обычные шахматные программы (Stockfish). И обнаружилось ещё кое-что: иногда нейронные сети троллят обычные программы. Вот видео (во временем):
https://youtu.be/hoi_QnOdqj0?t=1264
3) Боты Facebook стали разговаривать на своём языке, непонятным для людей, из-за чего руководство компании испугалось и их отключило:
https://www.bbc.com/russian/features-40778454
4) Картины, нарисованные нейросетями:
5) Видео, сгенерированное нейросетями:
https://www.youtube.com/watch?v=0ueRYinz8Tk
В Москве открылся бордель с секс-роботами:
) . Я сомневаюсь, чтобы корпорации бросались спасать мир - им, в общем, sustainability гораздо важнее. А государства, как игроки глобальных инноваций нынче не очень активны.
