Властелин мира

здесь можно обсудить кошечек, ёжиков и политику

Moderator: InterimModers

Властелин мира

Postby Vit Nhoc » Sun Jun 09, 2019 12:40 am

Данная тема про искусственный интеллект и его опасность.

Путин:

https://gazeta.ru/amp/tech/2019/05/30/12384673/ii.shtml

Президент России Владимир Путин провел совещание о развитии технологий в области искусственного интеллекта, на которых поднял важные вопросы в сфере IT. По словам главы государства, необходимо приложить все усилия для развития и внедрения ИИ, так как монополист в этой области станет «властелином мира».


«Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны — тот станет властелином мира», — цитирует Путина ТАСС.



Новая Газета:

https://www.novayagazeta.ru/articles/20 ... otklyuchit

Как новая сильная технология искусственный интеллект создает множество рисков, которые не всегда нам понятны. Когда появилось атомное оружие, многие боялись, что первый взрыв приведет к цепной реакции, которая уничтожит всю планету. Но про возможность ядерной зимы, например, никто не догадывался.


Доказано, что у любого универсального агента есть базовые конвергентные подцели: это выживание, улучшение себя и сохранение имеющейся системы. Это верно не только для человека, но и для любого ИИ — он все равно сойдется на такой системе базовых инстинктов, если ему не мешать. А если ИИ станет противостоять собственному уничтожению, то нам будет трудно его отключить. Ведь это не просто робот, а программа, которая переходит с одного компьютера на другой. ИИ будет пытаться выключить нас, чтобы мы не выключили его.


Это первое приближение знаменитого примера с алгоритмом, который зациклился на бесконечном расчете числа «пи», в результате чего он застраивает всю землю компьютерами и отстреливает людей, которые ему мешают. Это немного кинематографический сценарий, но на самом деле ничто не мешает ему реализоваться.


Илон Маск:

https://www.kommersant.ru/doc/3359613

«У меня есть доступ к самым передовым разработкам в сфере искусственного интеллекта, и я считаю, что людей должно беспокоить развитие подобных технологий»,— цитирует Fortune основателя SpaceX. Журнал отмечает, что Илон Маск уже давно заявлял о связанных с искусственным интеллектом рисках. Однако в своем выступлении перед американскими губернаторами бизнесмен не только показал особую жесткость своей позиции, но и «решительно призвал» власти вмешаться в ситуацию.

«Проблема искусственного интеллекта — тот редкий случай, когда нам надо проявить активность в регулировании вопроса, иначе может быть слишком поздно. Искусственный интеллект является фундаментальным риском для существования человеческой цивилизации. ДТП, авиакатастрофы, некачественные лекарства или плохая пища таковыми не являются»,— убежден Илон Маск.


По данным Fortune, это «сильное заявление» для человека, который ассоциируется с так называемым киберлибертарианством — идеологией, которая выступает против попыток государства регулировать работу компаний. Одним из последователей идеологии является Питер Тиль, который совместно с Илоном Маском создал платежную систему PayPal, напоминает издание.



Получается примерно такой расклад. Наши “патриоты” с Путиным за то, чтобы форсировать разработку ИИ в России, т.к. если у нас будет прорыв с ИИ – Россия нагнёт весь мир. Позиция же либералов и западных ИТ-лидеров вроде Маска – ИИ опасен, поэтому необходимо максимально контролировать его разработку. Очень бы хотелось, чтобы каждый россиянин задумался, на чьей он стороне.

Вот ещё в тему:

http://lurkmore.to/Ванга

http://lurkmore.to/Чёрный_Властелин

Современный ИИ работает на новых парадигмах программирования – нейросети и ансамбли. Его уже не программируют, а обучают. И сами разработчики этих нейросетей не особо понимают, как у них всё работает. Я сам немного поразбирался в этой теме, и я согласен с Маском что ИИ – это очень реальная угроза для всего.

Image


Накину ещё несколько ссылок:

1) Нейронные сети научились играть в Starcraft 2 на уровне чемпионов:

https://www.youtube.com/watch?v=FEFxLpv-rZM

2) Когда нейронные сети научились играть в шахматы, они легко стали побеждать обычные шахматные программы (Stockfish). И обнаружилось ещё кое-что: иногда нейронные сети троллят обычные программы. Вот видео (во временем):

https://youtu.be/hoi_QnOdqj0?t=1264

3) Боты Facebook стали разговаривать на своём языке, непонятным для людей, из-за чего руководство компании испугалось и их отключило:

https://www.bbc.com/russian/features-40778454

4) Картины, нарисованные нейросетями:


Image

Image

Image

Image

Image

Image

Image

Image

Image


5) Видео, сгенерированное нейросетями:

https://www.youtube.com/watch?v=0ueRYinz8Tk
User avatar
Vit Nhoc
 
Posts: 104
Joined: Sat Jun 06, 2015 12:28 pm

Re: Властелин мира

Postby Tasha » Sun Jun 09, 2019 8:42 am

:clap:
наконец-то наши имеют шанс не просрать серьезную науную революцию. в отличие от био-, сильхозтехнологий и пластиков успешно профуканых в предыдущие 70 лет
Мы, коммунисты, все мертвецы в отпуске, и я это осознаю. Я не знаю, продлится ли еще мой отпускной или мне уже пора отправиться к Карлу Либкнехту и Розе Люксембург (Е. Левине)
User avatar
Tasha
 
Posts: 186
Joined: Tue Dec 27, 2005 10:04 pm

Re: Властелин мира

Postby Vit Nhoc » Thu Jun 13, 2019 7:26 pm

Вот ещё в тему:

6) Статья про технологическую сингулярность:

https://ru.wikipedia.org/wiki/Технологическая_сингулярность

Картинка из статьи:

Image

7) Клип певицы Граймс про ИИ:

https://www.youtube.com/watch?v=gYG_4vJ4qNA

Граймс была девушкой Илона Маска, потом кажется расстались, но видно мозг ей он успел вынести, так что теперь она снимает клипы пр ИИ)

8) В Москве открылся бордель с секс-роботами:

https://robo-hunter.com/news/pervii-v-r ... prele10471

Image

Разговор с секс роботом:

https://www.youtube.com/watch?v=5pKczGG19uo
User avatar
Vit Nhoc
 
Posts: 104
Joined: Sat Jun 06, 2015 12:28 pm

Re: Властелин мира

Postby IB » Thu Jun 13, 2019 7:43 pm

Vit Nhoc wrote:Вот ещё в тему:
https://ru.wikipedia.org/wiki/Технологическая_сингулярность

Хилая ж иллюстрация, ибо смешивает биологическую и технологическую эволюцию. А они не очень соизмеримы. Вот когда человек начнёт терраморфировать ордами самореплицирующихся роботов с ИИ Марс, тогда можно какую то параллель проводить. Но будет это, по всей видимости, очень и очень нескоро.
Какой-такой супер-пупер прогресс наблюдался в течении 15 лет ? Скажем за такое время в 20-ом веке успели от спутника пройти путь до высадки на Луну. А сейчас что ? Есть ощущение, что если перенестись лет через 100 вперёд, то особой разницы для 90% населения не будет - ну кроме взрыва разнообразия сравнительно примитивных гаджетов, которые в виде микроустройств будут вживляться куда не попадя (эдакий интернет био-вещей, тобишь подконтрольных андроидов :)) . Я сомневаюсь, чтобы корпорации бросались спасать мир - им, в общем, sustainability гораздо важнее. А государства, как игроки глобальных инноваций нынче не очень активны.
User avatar
IB
 
Posts: 7508
Joined: Wed Jul 25, 2007 9:12 pm

Re: Властелин мира

Postby Hedgehog » Thu Jun 13, 2019 10:43 pm

IB wrote:Какой-такой супер-пупер прогресс наблюдался в течении 15 лет ? Скажем за такое время в 20-ом веке успели от спутника пройти путь до высадки на Луну. А сейчас что ? Есть ощущение, что если перенестись лет через 100 вперёд, то особой разницы для 90% населения не будет - ну кроме взрыва разнообразия сравнительно примитивных гаджетов, которые в виде микроустройств будут вживляться куда не попадя .

Полностью соглашусь с коллегой IB. В последние десятилетия научно-технический прогресс явно замедлился, и в обозримом будущем никаких прорывов ждать не стоит.
IB wrote:эдакий интернет био-вещей, тобишь подконтрольных андроидов :)

Это да, уже сейчас начинает пованивать антиутопией.
Плюс к этому - другие нехорошие тенденции: сейчас запрещают табак, далее (под такими же идиотскими предлогами) под запрет попадут красное мясо, шоколад и, видимо, молочные продукты. Т.е. происходит явная деградация материальной культуры человечества :?
Vina bibunt homines, animalia cetera fontes
Курение табака должно быть свободным.
User avatar
Hedgehog
 
Posts: 4422
Joined: Wed Jan 19, 2005 7:41 pm
Location: совмещенные пространства

Re: Властелин мира

Postby IB » Thu Mar 19, 2020 7:34 pm

Vit, статьи - это тлен.
Вы не пробовали публиковать свои рассказы (имеется в виду с определённым продвижением и рекламой, как Вы делаете со статьями)? Тот Ваш рассказ про будущее с людьми, которые могут формировать свою внешность, указывает на хороший потенциал. В этом направлении можно было бы двигаться, как мне кажется.
User avatar
IB
 
Posts: 7508
Joined: Wed Jul 25, 2007 9:12 pm

Re: Властелин мира

Postby Vit Nhoc » Mon Apr 20, 2020 7:03 pm

IB wrote:Vit, статьи - это тлен.
Вы не пробовали публиковать свои рассказы (имеется в виду с определённым продвижением и рекламой, как Вы делаете со статьями)? Тот Ваш рассказ про будущее с людьми, которые могут формировать свою внешность, указывает на хороший потенциал. В этом направлении можно было бы двигаться, как мне кажется.


С идеями непруха( У меня гораздо больше разных статей на типа околонаучные темы.
User avatar
Vit Nhoc
 
Posts: 104
Joined: Sat Jun 06, 2015 12:28 pm


Return to лицом к лицу

Who is online

Users browsing this forum: No registered users and 5 guests