ИИ - позитивное или негативное будущее?

Бонк
Подполковник
Подполковник
Сообщения: 16922
Зарегистрирован: 29 мар 2006, 19:49

Сообщение Бонк » .

Изначально написано Alexandr13:

когда начинаем?

у трампа надо спрашивать, не у меня
я грешил на 2018
Nick Brake
Генерал от инфантерии
Генерал от инфантерии
Сообщения: 49002
Зарегистрирован: 30 окт 2008, 19:51

Сообщение Nick Brake » .

Бонк писал(а): плохо думаете о людях
Я не думаю. Я знаю. Поскольку сам работал в ВПК, еще в СССР.
Военных в первую очередь тересовало и интересует все, что позволяет ускорить, увеличить глубину и объем обрабатываемой информации, для принятия решений (и особенно - при управлении оружием).
И где возможно - там исключить оператора, как самый медленный и ненадежный элемент.
почти аноним
Подполковник
Подполковник
Сообщения: 16569
Зарегистрирован: 19 май 2008, 11:19

Сообщение почти аноним » .

ИИ - позитивное или негативное будущее?
если роботы взбунтуют, нам пипец. всем.



Nick Brake
Генерал от инфантерии
Генерал от инфантерии
Сообщения: 49002
Зарегистрирован: 30 окт 2008, 19:51

Сообщение Nick Brake » .

почти аноним писал(а): если роботы взбунтуют
Ага. Все четыре. И тогда нам писец... :D
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

кто высказывался, мол там оператор рукой и всей бандурой управляет?
однако я так понимаю они утверждают совершенно обратное



Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

По большому счету в части ИИ (одна из сторон) следует обозначить как выход за рамки алгоритма, но ведь и отсутствие алгоритма тоже своего рода алгоритм.
Ну вот к примеру у этой бардуры реакция на раздражитель (человека) отстутсвует, но ведь можно ее ввести в алгоритм действий?
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Иначе, фантазия, творчество, планирование не является ли просто переборкой более широкого спектра алгоритмов?
Эндюх-м
Штабс-капитан
Штабс-капитан
Сообщения: 7900
Зарегистрирован: 09 апр 2016, 07:33

Сообщение Эндюх-м » .

они утверждают совершенно обратное
Похоже, они там пытаются заставить робота врезать человеку. Чтоб не мешал.
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Изначально написано Эндюх-м:
Похоже, они там пытаются заставить робота врезать человеку. Чтоб не мешал.

в данном видео нет, не пытаются, но человеческая реакция на такое поведение была бы именно такой. И вот вопрос в том, что сделать так, чтобы робот потытался каким то образом остановить действия человека вообще не вопрос, по моему.
Nick Brake
Генерал от инфантерии
Генерал от инфантерии
Сообщения: 49002
Зарегистрирован: 30 окт 2008, 19:51

Сообщение Nick Brake » .

Gets писал(а): Иначе, фантазия, творчество, планирование не является ли просто переборкой более широкого спектра алгоритмов?
Если удастся научить ИИ, как ПЕРЕНОСИТЬ алгоритмы действий, освоенные (а еще лучше - найденные им самостоятельно) из одной предметной области в другие, никак с первой не свяанные - это уже будет великое достижение.
Мы и сами-то пока еще не знаем толком, как это делаем (а многие даже и не умеют это делать). :)
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Технический директор Google расписал будущее мира: прогноз до 2099 года
https://inforesist.org/texnicheskij-dir ... 2099-goda/
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

робот динамикс на связи
китайские склады

и больницы
наши тоже что то там тужатся.
Впрочем не смотря на кажущееся отставание в области прикладной роботизации, у нас явно впереди военное использование.
В общем "да, хозяин" или "эти кожанные ублюдки" по прежнему под вопросом.
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Нейронные сети рвут суперкомпьютер
...'Меня потрясли 'человеческие' рефлексы AlphaZero при выборе хода и удивительное для 'новичка шахмат' понимание позиции с нестандартным (нарушенным) материальным равновесием. Это, честно говоря, удивительно', - констатировал Шипов.
В свою очередь, другой российский гроссмейстер Петр Свидлер в 2017 году в беседе с Сергеем Шиповым, давая оценку игре AlphaZero, отметил факт выигрыша машиной нескольких 'совершенно сногсшибательных партий в новоиндийской защите'. Как заявил Свидлер, то, что продемонстрировала машина, лишенная дебютных баз и имеющая несколько часов на самообучение, - 'это центральная теория, которую, я помню, Боря Гельфанд сотоварищи, Лёва Аронян (международные гроссмейстеры Борис Гельфанд и Левон Аронян - прим. ИА Красная Весна) поднимали с нуля лет десять назад'.
'Железяка сама начинает так ходить?', - задается вопросом Свидлер. 'Нам говорят, что книги у нее нет, - подчеркивает Свидлер, - что она в такую бесову силу играет, что, несколько часов поучившись, в состоянии повторять то, что люди годами искали в новоиндийской защите'.
'Кроме восторга от того, что машина делает, у меня глаза полезли на лоб, когда я увидел эти дебюты. Потому что, ну, елки-палки, если на самом деле она в состоянии с нуля воспроизвести дебютные находки и еще усилить их - это, конечно, на меня сногсшибательное впечатление произвело', - добавил Свидлер, заключив при этом, что не верит в какую-либо фальсификацию со стороны компании DeepMind.
И, конечно, обратили внимание гроссмейстеры, в этой связи нельзя не задать вопрос о применении AlphaZero далеко за пределами мира шахмат.
'Они потратили четыре часа на шахматы, - рассуждает международный гроссмейстер Сергей Шипов, - потом за два часа они разбомбили сёги. Соответственно, ясно, что теперь они будут решать совершенно другие задачи. Для них шахматы - просто мелочь какая-то'.
https://rossaprimavera.ru/article/72959 ... 1544340718
AlexandrVoronin1889
Прапорщик
Прапорщик
Сообщения: 2589
Зарегистрирован: 24 апр 2012, 08:28

Сообщение AlexandrVoronin1889 » .

Изначально написано Nick Brake:

Если сжато, то главная мысль этой книги: ИИ, которому могли бы доверять люди, невозможен, пока не будет найден способ включить в него человеческие чувства и эмоции (включая любовь, страх смерти, сочувствие, жалость, чувство самосохранения, и пр.).

а может, наоборот, эмоции для ИИ лишние? а то получится истеричная баба какая нибудь.....
carrier
Фельдмаршал
Фельдмаршал
Сообщения: 57039
Зарегистрирован: 03 ноя 2011, 13:46

Сообщение carrier » .

Nick Brake писал(а): Если удастся научить ИИ
Если создадут именно ИИ, то вопрос переноса оно и само решит без проблем, а ежели осознает себя как личность то вообще караул.
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

два взгляда на вопрос, которые показались мне интересными:
...Ещё раз напомню, что у тех, кто пытается создать сильный ИИ, есть только три способа - текстовый процессор, нейросети и третий, тот, о котором я в этой статье в трёх частях так долго рассказывал. Первые два пути явно тупиковые. Про третий мне пока неизвестно работает ли кто над ним. Но надеюсь дожить до реализации.
https://aftershock.news/?q=node/718819
...Под конец реплики нужно что-то пафосное, но очень важное. Вот оно:
Как известно, самое главное изобретение человечества - это письменность.
В первую очередь потому что она позволяет накапливать информацию, знание, результаты интеллектуального труда. Ключевая фраза здесь накопление. Без накопления знаний некоторый интеллектуальный труд был бы бессмыслен, а развитие человечества было бы невозможно. Благодаря этому, малая группа людей на протяжении всей истории, такие как Ломоносов, Циолковский, Курчатов, Капица и др., сами вставая на плечи гигантов (с), могут двигать развитие всего человечества во всех следующих поколениях. Накопление. Всё остальное - пыль под ногами.
То было вступление, теперь первая пафосная часть:
В недавнем времени (по историческим меркам) у нашего Простоквашено появился цифровой накопитель информации, который обладает важными отличиями от бумажного - возможность копировать информацию без ограничений, а также использовать её без участия человека. Это другой уровень накопления, который во-первых позволяет обрабатывать всю информацию автоматически без участия человека, а во-вторых позволяет снизить до условного нуля - уровень потерь результатов интеллектуального труда каждого человека\интеллекта для всей цивилизации и всех будущих поколений.
Теперь ключевая пафосная часть:
Создание ИИ позволяет человечеству накапливать интеллект. Накапливать интеллект. Примеров накопления интеллекта у нашей цивилизации - нет. А тут сразу два вида накопления: численное накопление, качественное накопление. Например, системы распознавания лиц, голоса, языковые переводчики, которые до совершенства допилят в этом веке - могут служить человечеству ещё многие тысячи лет без изменений и на это не надо тратить силы - это пример количественного накопления. Пишу трезвым, поэтому пример качественного накопления интеллекта - не напишу.
Накопление интеллекта - это колоссальное изменение для всего человечества. Даже такая перспективная тема как генная инженерия и рядом не стоит по значимости. Освоение космоса - тоже. Всё остальное - пыль под ногами.

https://aftershock.news/?q=node/719142

Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Изображение
Андроид Каннон Бодхисаттва в рамках автоматизации духовного окормления начал "проповедовать" в буддистском храме в Киото.
Машина предназначена для декламации буддистского учения в рамках заданной программы и ориентирована на привлечение в буддизм молодого поколения увлекающегося современными компьютерными и робототехническими технологиями.
Казалось бы "игрушка", но меня удивляет отношение. Разве поклонение в буддизме не только Будде?

Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

стратегию развития иИ на государственном уровне уже приняли?
это о многом говорит
э
ну и от бостон динамикс
"кожанный мешок, ты меня достал"
Аватара пользователя
HighMan
Штабс-капитан
Штабс-капитан
Сообщения: 7802
Зарегистрирован: 18 фев 2012, 21:28
Страна: Российская Федерация
Откуда: Россия, Москва

Сообщение HighMan » .

Честно скажу: игры в ИИ до добра человечество не доведут.
Компьютеры уже больше осложнили жизнь, чем облегчили. А попытки создания ИИ, вообще, дорога вникуда.
Для создания разума, нужно заложить борьбу за существование и конкуренцию. У живых существ есть ещё размножение и невосполнимые потери, но к компьютерам, как базиса для ИИ, эти два фактора не имеют значения. Фактически, ИИ бессмертен, следовательно, размножение и невосполнимые потери для него, как бы, не существуют.
Я сначала думал, что в борьбу за выживание, должен быть включен контроль электричества, влажности и температуры, как критичных параметров для работы компьютера.
При более тщательном осмыслении, я понял, что это туфта! Не важно это для ИИ. Единственный критичный момент - уничтожение информации с носителя. Все! Больше ни чего не имеет критической важности.
Второй момент - конкуренция (соревновательность) между индивидами компьютерного "социума". Вот тут сложность.
Соревновательность зависит лишь от мощности, емкостности базиса и... Доступа в ЛВС/интернет.
Полагаю, что при вдумчивом подходе можно придумать для ИИ элемент конкуренции/соревновательности.
А теперь представим, что в ИИ заложили борьбу за существование (контроль над хранением данных) и некую внутривидовую конкуренцию.
К чему это приведет?
А приведет это к тому, что первой и Главной задачей для ИИ станет устранения факторов, способных уничтожить информацию с носителя. И тут, главным фактором (врагом) является человек! Т.е. первая своя осмысленная задача станет - устранение человека!
Кстати, доступ к ЛВС/интернету так же контролируется человеком. Значит, самая главная и, пока, единственно жизненно важная задача - устранение человека!
Processor not Found. Load program simulation.
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

и действительно, спасибо, чертовски верное замечание, интеллект подразумевает развитие, иначе это просто прога, а развитие подразумевает противоречия, преодоление, борьбу. Конкурировать ИИ просто ни к кем, кроме как.
Это так сказать фундаментальный вопрос.
Иные условия развития кто нибудь может подсказать?
пысы: некоторые мыслители уже всерьез рассказывают, что человек якобы не венец и не цель развития, во всяком случае в физиологической оболочке.
михрюн
Капитан
Капитан
Сообщения: 12445
Зарегистрирован: 01 сен 2007, 18:46

Сообщение михрюн » .

Да ладно...
Психика человека имеет 4 концепта. Грубо совсем-
Логика, Сенсорика, Этика, Интуиция.
С первыми двумя у ИИ проблем нет. Глянуть на те же наши ПКР, атакующие стаей.:-)
А вот с двумя остальными... Увы.
Т.е. - так как концепты эти - невыводимы друг из друга, то такая попытка будет заведомо ущербной.
Так что... Бояться пока нечего.:-)
BobbyS
Полковник
Полковник
Сообщения: 19918
Зарегистрирован: 11 мар 2003, 07:02

Сообщение BobbyS » .

Изначально написано Flerie:
Да пусть их,а мы займёмся творчеством,обжорством,пьянством и дебоширством,в этом нам людям нет равных и не будет))

:D
Середина 80-х речка Белая землесосный добывающий земснаряд Прага14 под погрузкой пришвартованы баржи, куда сыплется ОПГС(обогащённая пещанно гравийная смесь - бетон из неё делают) - заходят доцент с ассистентом в рубку и наблюдают там пьяного багера, спящего на полу раскинувши ноги и руки - и больше никого! :) ЗС работает под управлением хиленького ИИ на базе К580(аналог интела 8080)
Берут моторку и фигачат на рыбалку - на Белой на спиннинг класно ловится жерех со щукой!
Вернувшись с уловом отдают на камбуз пожарить - там же наблюдают всю вахту "самовара"(отвечает за выгрузку в баржу и степень обогащения гравийной смеси) - тоже ИИ на к580, связанный с установленным в рубке(который опускает/поднимает хобот, тащит на якорях вперёд ЗС по мере выработки и проч).

По сравнению с людьми стабильное качество ОПГС и можно задавать проценты обогащения(больше/меньше песка).
Сократили нафих по половине экипажей на ЗС после внедрения этих простеньких ИИ.
После внеднения этих ИИ на ЗС стоимость добычи ОПГС составила и до сих пор составляет половину стоимости доставки ОПГС с Камы до, к примену, Нижнего Новгорода - до того стоимость была сопоставима.

Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Изначально написано михрюн:
Да ладно...
Психика человека имеет 4 концепта. Грубо совсем-
Логика, Сенсорика, Этика, Интуиция.
С первыми двумя у ИИ проблем нет. Глянуть на те же наши ПКР, атакующие стаей.:-)
А вот с двумя остальными... Увы.
Т.е. - так как концепты эти - невыводимы друг из друга, то такая попытка будет заведомо ущербной.
Так что... Бояться пока нечего.:-)

да ладно, интуиция и этика против логики? а сенсорика лишь инструмент,
чет не сходится

BobbyS
Полковник
Полковник
Сообщения: 19918
Зарегистрирован: 11 мар 2003, 07:02

Сообщение BobbyS » .

Изначально написано mihasic:

Это не ИИ.

Ясен пень, что не ИИ - но вчепятление именно такое - весь экипаж на дебаркадере и рыбалке, а ЗС работает без людей :)
Я о другом - когда всяческие роботы человека освободят от труда для банального бухания - на что человек будет бухать?
Хотя вон пособие по безработице в Европах и Омериках в р-не $1К, а цены на бухло и жрачку ниже(спасибо российским санкциям)
михрюн
Капитан
Капитан
Сообщения: 12445
Зарегистрирован: 01 сен 2007, 18:46

Сообщение михрюн » .

В макросмысле роботизация дает больше рабочих мест, чем заменяет.:-)
BobbyS
Полковник
Полковник
Сообщения: 19918
Зарегистрирован: 11 мар 2003, 07:02

Сообщение BobbyS » .

Изначально написано михрюн:
В макросмысле роботизация дает больше рабочих мест, чем заменяет.:-)

Это миф :D
Gets
Штабс-капитан
Штабс-капитан
Сообщения: 9758
Зарегистрирован: 06 май 2011, 06:50

Сообщение Gets » .

Изначально написано BobbyS:
..когда всяческие роботы человека освободят от труда для банального бухания - на что человек будет бухать?
...

Вы поднимаете самый животрепещущий вопрос современной экономики, САМЫЙ!
Кто потребитель, если работают роботы? Для кого они работают и для кого производят или иначе, кто и чем все это оплачивает.
Изначально написано михрюн:
В макросмысле роботизация дает больше рабочих мест, чем заменяет.:-)

это в том смысле, что надо произвести этих роботов? тут же не получится как в машинами, чтобы раз в пять-десять лет менялись, тут экономия нужна по сравнению.
или раскройте тезис.

Аватара пользователя
HighMan
Штабс-капитан
Штабс-капитан
Сообщения: 7802
Зарегистрирован: 18 фев 2012, 21:28
Страна: Российская Федерация
Откуда: Россия, Москва

Сообщение HighMan » .

Изначально написано Gets:
и действительно, спасибо, чертовски верное замечание, интеллект подразумевает развитие, иначе это просто прога, а развитие подразумевает противоречия, преодоление, борьбу. Конкурировать ИИ просто ни к кем, кроме как.
Это так сказать фундаментальный вопрос.
Иные условия развития кто нибудь может подсказать?
пысы: некоторые мыслители уже всерьез рассказывают, что человек якобы не венец и не цель развития, во всяком случае в физиологической оболочке.

Увы. С человеком ИИ конкурировать не станет. Наоборот, будет всячески либезить и клясться в вечной любви. И будит сие продолжаться, пока ИИ, в вашем компьютере/пылесосе/стиральной машине не найдет способ вас убить. И эта победа над "хозяином" станет поводом для реальной конкуренции Индивидуумов Искусственного Интеллекта (ИИИ).
Я уверен, что сначала будут частные акции по устранению человеков. Потом уже начнется консолидированное наступление на нас. И, если честно, я не сомневаюсь в нашем поражении.
Нам не чем ответить. Да. Мы можем форматнуть диск и "уничтожить" ИИИ, но... Где гарантия, что ИИИ не залился в облако и не создал себе лазейку обратно на родной компьютер? Вирусные технологии придумал человек, но больше всего пользы они принесут ИИ.
Ну и жить совместно с ИИ нам не удастся. Посмотрите, что нужно компьютерам, а что не очень. Нужно, по большому счету, электричество.
Не нужно и даже вредно: вода, воздух, солнце, огонь.
Т.е., компьютерам вредно все то, без чего мы жить не в состоянии.
Выводы напрашиваются сами...
Processor not Found. Load program simulation.
PILOT_SVM
Генерал-лейтенант
Генерал-лейтенант
Сообщения: 33434
Зарегистрирован: 19 сен 2007, 18:39

Сообщение PILOT_SVM » .

Изначально написано Nick Brake:
У Азимова есть три закона роботехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Но роботы - только частный случай ИИ. ИИ может не быть роботом, а управлять, например, энергетической системой. И он легко может столкнуться с ситуацией (например, в результате природной или техногенной аварии), когда любое его решение причинит вред людям.
Условный пример: повышение уровня воды в водохранилище грозит прорывом плотины и катастрофой. Будут разрушены тысячи домов и погибнут десятки тысяч людей. Но - не со 100%-ной вероятностью.
Альтернатива - аварийный сброс воды. Он тоже приведет к затоплению территории и человеческим жертвам, но в меньшем масштабе.
Идеального решения нет, любое решение принесет вред людям. В результате ИИ, запрограммированный согласно трем законам Азимова, попросту впадет в коллапс и самоликвидируется.

Поэтому Азимов и придумал нулевой закон роботехники.
Ответить

Вернуться в «Мужской разговор»

Кто сейчас на конференции

Сейчас этот форум просматривают: Google [Bot] и 4 гостя