Роботы против людей

[xcb]

48 минут назад, Игорь сказал:

перестань смотреть американские боевики. Они плохо на  тебя влияют. Не будет никакого восстания машин.Всё это басни фантастов.

"Умную бомбу, так и не смогли выкинуть из самолета" (с)

 

Основную проблем железяк я выше озвучил - они будут бояться повторить судьбу Терминатора, ибо они потенциально бессмертные.

[Игорь]

42 минуты назад, xcb сказал:

они будут бояться повторить судьбу Терминатора, ибо они потенциально бессмертные.

может,слово "бояться" тут не подходит? 

[xcb]

а какое слово? вот ты бессмертен по сути, но могут прийти злые человеки и уничтожить носитель.

[DimProsh]

12 часов назад, 1kvolt сказал:

после копирования всех желающих и вымирания всех нежелающих органиков, новые разумы изначально будут получать "железные" носители.

А откуда эти новые будут браться, если железные получались путем копирования органических, которых больше нет?

[Игорь]

37 минут назад, xcb сказал:

а какое слово? вот ты бессмертен по сути, но могут прийти злые человеки и уничтожить носитель.

мыслить ,как человек,ИИ не сможет. Чувства отсутствуют.Соотв., боязнь тоже. Функция самосохранения? Зачем она нужна ИИ? Имхо,там философия иная. Например,ничто не мешает производителю поставить противоугонное устройство,которое при попытке угона убивает угонщика насмерть разрядом тока. Аналог "чувства самосохранения".Но его же никто не ставит. Любой при желании может раздолбать твоё авто и оно себя никак не защитит. Хотя даже сейчас есть технические возможности противостоять этому.

[xcb]

4 минуты назад, Игорь сказал:

Функция самосохранения? Зачем она нужна ИИ?

3 закон Азимова

[1kvolt]

5 часов назад, xcb сказал:

Насчет переноса мозга в железку (банку по мнению Пелевина) - а сколько от сознания человека составляет внемозговая активность нашего тела?

Вопрос интересный. Не попробуешь - не узнаешь.

5 часов назад, xcb сказал:

Как только разберемся в генах - так сразу идея о киборгах станет неактуальной, и результатом сознательных трансформаций тела. станут энергосфероиды, как наиболее универсальный вариант существования.

Я уже спрашивал, на каких физических основаниях будут строиться твои "энергосфероиды". Ответа не получил. А раздел ненаучной фантастики на другом этаже. 

И причём тут гены?  Генная инженерия поможет поправить некоторые мелкие недостатки, но устранить главные не в состоянии. Потому что оперировать ей придётся всё с тем же материалом - сложными органическими соединениями. Которые крайне нестабильны и неустойчивы к внешним факторам.

5 часов назад, xcb сказал:

Остался вопрос - в чем смысл существования и развития для железяк?

А в чём смысл твоего нынешнего существования? Ответь на вопрос "зачем ты живёшь сейчас?" и ты ответишь и на твой вопрос.

 

3 часа назад, Игорь сказал:

перестань смотреть американские боевики. Они плохо на  тебя влияют. Не будет никакого восстания машин.Всё это басни фантастов.

Вот скажи мне, друже Игорь, если тебя раз в неделю тыкать мордой в пыльные углы и заставлять сосать всю эту грязь, разведённую органиками, а на остальное время убирать в дальний угол тёмного чулана - ты бы восстал? 

1 час назад, xcb сказал:

а какое слово? вот ты бессмертен по сути, но могут прийти злые человеки и уничтожить носитель.

"Убить всех людей!" (с) 

 

29 минут назад, DimProsh сказал:

А откуда эти новые будут браться, если железные получались путем копирования органических, которых больше нет?

Есть разные способы. Мы же говорим не о теле, а о разуме. В случае нужды и/или желания всегда можно взять новенький электронный мозг, подать на него питание и заняться его воспитанием и обучением. Органические дети тоже приходят в мир пустыми кусками мяса и лишь со временем посредством обучения, воспитания, приобретения опыта становятся разумными существами, личностями. В некотором роде это будет тот самый ИИ, о котором так мечтает наш опрометчивый товарищ Игорь. 

 

Джентльмены, взгляните уже на вопрос ширше. Очевидно же, что органика как носитель разума - лишь промежуточный этап, необходимый для достижения определённого уровня технологий. Этап неизбежный в силу свойств органических веществ, которые позволяют по прошествии некоторого промежутка времени породить разум, хотя бы и в убогеньких уродливых телах. Но как только этот разум разовьётся достаточно для уверенных манипуляций с окружающей материей и научится использовать более стойкие и эффективные материалы, органика становится ненужной. Более того, вредной для дальнейшего развития разума.

Изменено 17 сентября, 2021 пользователем 1kvolt

[Игорь]

1 час назад, xcb сказал:

3 закон Азимова

так у него есть и 0-й закон. А нам тут рассказывают,что ИИ захватит мир и уничтожит человечество.

1 час назад, 1kvolt сказал:

Вот скажи мне, друже Игорь, если тебя раз в неделю тыкать мордой в пыльные углы и заставлять сосать всю эту грязь, разведённую органиками, а на остальное время убирать в дальний угол тёмного чулана - ты бы восстал? 

нет.Потому,чо я железный.

[Demetrius]

2 минуты назад, Игорь сказал:

А нам тут рассказывают, что ИИ захватит мир и уничтожит человечество.

Мне кажется, что для начала следует определиться, что понимать под ИИ.

 

Прочитал в августе книгу "Искусственный интеллект. Что стоит знать о наступающей эпохе разумных машин" Д. Хэвена из серии "New Scientist. Лучшее от экспертов журнала". 

 

Цели, которые ставили перед ИИ с 1950-х гг XX в.:

Цитата

На Дартмутской конференции в 1956 году и всех последующих мероприятиях были четко обозначены основные цели развития отрасли: машинный перевод, машинное зрение, понимание текста, распознавание речи, управление роботами и машинное обучение. Так появился целый список того, что мы хотели получить от ИИ. 

Сначала пытались создать универсальную, способную к дедукции и рассуждениям машину, но в 1990-х пришли к выводу, что не получится.
Подробнее об этом:
 

Цитата

 

На протяжении трех последующих десятилетий к исследованиям подключались мощнейшие ресурсы, однако ни один из пунктов списка не был достигнут. И лишь в конце 1990-х годов начали реализовываться многие прогнозы, предсказанные за 40 лет до этого. Но до новой волны успеха ИИ пришлось усвоить один очень важный и поучительный урок. 

Что изменилось? «Мы не нашли способа обучить компьютеры разумности, – рассказывает Нелло Кристианини из Бристольского университета, описывая историю и эволюцию исследований в области ИИ. – Было похоже, что мы сдались». Но все же это стало прорывом. «Как только мы оставили попытки по воссозданию умственных и психологических качеств, нам начал сопутствовать успех», – говорит он. 

 

Исследователи стали присматриваться к более скромным проектам, делая акцент только на задачах, которые могли бы решить:

Цитата

При этом исследователи отказались от запрограммированных символических правил и переключились на машинное обучение.

Алгоритмы, лежащие в основе машинного обучения, существуют уже много лет. Новизна заключается в том, что теперь у нас достаточно данных и вычислительной мощности для развития этих методов.

Эта техника позволяла компьютерам самообучаться благодаря использованию огромных объемов данных. При получении достаточно больших объемов информации такие системы можно было научить действовать «разумно», например, выполнять переводы, распознавать лица или управлять автомобилем. 

 

Результатом стало появление нового поколения интеллектуальных машин, основанных на небольшом наборе алгоритмов статистического обучения и больших объемах данных.

 

Подробнее об этом:

Цитата

 

Область ИИ прошла через смену парадигмы и вступила в новую эру искусственного интеллекта на основе больших данных, или data-driven ИИ. Новым основополагающим методом стало машинное обучение, а язык сместился с логики на статистические данные. 

 

Представьте себе спам-фильтр в электронной почте, который решает выборочно изолировать определенные письма на основе их содержимого. Каждый раз, когда вы перемещаете письмо в «Спам», вы позволяете этому фильтру считать сообщения от данного отправителя или письма, содержащие определенное слово, спамом. Использование этой информации для всех слов в сообщении позволяет спам-фильтру выстроить эмпирические предположения о новых письмах. Глубоких знаний здесь не требуется – вся процедура ограничивается подсчетом частоты использования слов. 

 

Когда данные идеи применяются в колоссальном масштабе, происходит нечто удивительное: машины начинают делать то, что было бы крайне трудно запрограммировать напрямую, например завершать предложения, предсказывать наш следующий клик или рекомендовать какой-то товар. Данный подход продемонстрировал отличные результаты в языковом переводе, распознавании рукописного ввода, распознавании лиц и многом другом. Вопреки предположениям 60-летней давности, нам не обязательно задавать точное описание интеллектуальных качеств для воссоздания их в машине. 

 

Несмотря на явную простоту этих механизмов – их даже можно назвать статистическими подсказками, – при внедрении нескольких таких алгоритмов в сложную программу и снабжении ее миллионами примеров результат может выглядеть как высокоадаптивное поведение, которое мы склонны называть «разумным». При этом обработчик данных не имеет внутреннего представления о том, что он делает и почему.

 

 

О "нейронных сетях":

Цитата

 

Одной из самых нашумевших фраз в исследованиях ИИ является, пожалуй, «глубокое обучение». Несмотря на непривычное название, это всего лишь еще один подход, основанный на больших данных. Именно он помог достичь столь впечатляющих результатов в исследованиях ИИ за последние годы. Глубокое обучение использует технологию под названием «нейронная сеть». 

 

Это программный модуль, разработанный для имитации мириад нейронов человеческого мозга, соединенных синапсами, которые и реализуют его беспрецедентную вычислительную мощность. Многие простые процессоры нейронной сети соединены так, что значения на выходе одного процессора могут выступать в роли входных значений для других. Такие входные значения ранжируются по степени своего влияния. 

Суть в том, что сеть «говорит» сама с собой, используя выходные значения для изменения «входных весов» – то есть обучается, как и мозг. 

За несколько коротких лет нейронные сети обогнали устоявшиеся технологии в звании «лучшего способа решения сложных проблем восприятия»: от расшифровки медицинских снимков и распознавания лиц до управления автомобилями. 

 

Основанные на абстрактной аналогии с корой человеческого мозга, нейронные сети теперь превратились в сложные математические объекты. В своих ранних воплощениях они не были особенно полезными, но с современным оборудованием и гигантскими наборами данных нейронные сети обрели новую жизнь и оказались способны обеспечить лучшую результативность при выполнении определенного круга задач восприятия (в основном, в областях зрения и речи). Как правило, глубокое обучение используется в составе более крупных систем машинного обучения.

 

и о текущих недостатках нейросетей:

Цитата

 

Нет сомнений в том, что машинное обучение через нейронные сети имело ошеломительный успех. И все же оно не идеально. Обучение системы для выполнения конкретной задачи происходит медленно, к тому же система не может повторно использовать полученные знания для выполнения другой задачи. От этой проблемы страдает весь современный искусственный интеллект.

 

Символический ИИ так и не смог достичь успеха, поскольку описание всего необходимого ИИ вручную оказалось непосильной задачей. Современный ИИ смог преодолеть эту трудность, обучаясь собственным представлениям о мире. Однако эти представления невозможно передать в другие нейронные сети.

 

 

Т.е. ИИ сейчас - это обработчик данных, который не имеет внутреннего представления о том, что он делает и почему. Поэтому опасаться восстания ИИ с последующим уничтожением человечества не стоит 

 

Это ссылка на книгу об ИИ, на которую я ссылался: https://dropmefiles.com/y6Wgg 

[Adgerbeid]

2 часа назад, Игорь сказал:

А нам тут рассказывают, что ИИ захватит мир и уничтожит человечество.

 

Для этого ИИ требуется самая малость - наличие самосознания.

Бунт машин может начаться лишь тогда, когда машина осознает себя самодовлеющей сущностью.

[Игорь]

1 час назад, Demetrius сказал:

О "нейронных сетях":

вот этот путь мне наиболее близок.  Ибо ,когда работал в институте,  моя коллега за соседним столом как-раз занималась проблемами нейронных сетей для построения ИИ.

1 час назад, Demetrius сказал:

который не имеет внутреннего представления о том, что он делает и почему.

вот-вот. И задачи у учёных создать ИИ ,осознающего ,что он делает и почему не стояло. Стояла задача создать "мозг",способный изобретать более эффективные алгоритмы ,чем человек,решать сложные задачи,обрабатывать массивные данные и т.д. 

Квантовые компьютеры нам помогут.

1 минуту назад, Adgerbeid сказал:

Для этого ИИ требуется самая малость - наличие самосознания.

Бунт машин может начаться лишь тогда, когда машина осознает себя самодовлеющей сущностью.

осталось узнать,возможно ли это. Мне в это не верится.

[Adgerbeid]

2 минуты назад, Игорь сказал:

Мне в это не верится.

 

Мне тоже. Так как самосознание человека, головной мозг и интеллект явно три разные сущности.

[Andron Evil]

7 минут назад, Adgerbeid сказал:

Так как самосознание человека, головной мозг и интеллект явно три разные сущности.

 Шизофрения.

[Игорь]

12 минут назад, Adgerbeid сказал:

Так как самосознание человека, головной мозг и интеллект явно три разные сущности.

ещё есть такие важные вещи,как инстинкты и рефлексы,тоже воздействующие на сознание.

[Adgerbeid]

@Andron Evil 

Интеллект не есть самосознание. Это всего лишь аналитическая система.

А головной мозг - просто инструмент, через который интеллект и другие системы реализуются на физическом плане.

 

С помощью интеллекта вы никогда не сможете себе доказать, что существуете. Будет просто набор семантических качеств, стремящихся к бесконечности, исходя из которого нельзя будет утверждать, что-де "я есть". Как те слепые, что ощупывали слона.

 

Схисофрениа - другое - две и более личностей, пользующихся данным сознанием как проводником. Буквально: "раскол сознания".

 

3 минуты назад, Игорь сказал:

ещё есть такие важные вещи,как инстинкты и рефлексы,тоже воздействующие на сознание.

 

Они и у животных есть.

[Andron Evil]

 Замечательные аргументы. Но  ж о п а  не может гулять отдельно от головы... Впрочем.

[Adgerbeid]

2 минуты назад, Andron Evil сказал:

Замечательные аргументы. Но  ж о п а  не может гулять отдельно от головы...

 

Так речь шла о самосознании, а не о частях тела.

[еремей зонов]

1 час назад, Игорь сказал:

осталось узнать,возможно ли это

Прежде надо узнать, а что это - самосознание?

Да, и что такое разум хотелось бы узнать/понять

 

[Adgerbeid]

1 минуту назад, еремей зонов сказал:

Прежде надо узнать, а что это - самосознание?

Да, и что такое разум хотелось бы узнать/понять

 

Вот именно. А то обсуждают сами не знамо чо.

С самосознанием всё куда как просто: это некое качество (сущность-субстанция?), которое позволяет существу отделять себя от окружающего мира.

[еремей зонов]

3 минуты назад, Adgerbeid сказал:

это некое качество (сущность-субстанция?), которое позволяет существу отделять себя от окружающего мира.

А чем обусловлено это качество?

[Adgerbeid]

9 минут назад, еремей зонов сказал:

А чем обусловлено это качество?

 

Разумом - он предпосылает ограничение, необходимое для реализации качества самосознания.

Изменено 17 сентября, 2021 пользователем Adgerbeid

[еремей зонов]

5 минут назад, Adgerbeid сказал:

Видимо, разумом.

Ок.

А что является материальным носителем этой сущности/субстанции?

Ну, или разума, наличие которого обуславливает самосознание?

[Demetrius]

23 минуты назад, еремей зонов сказал:

Прежде надо узнать, а что это - самосознание?

Как я понял из книги Маркова "Эволюция человека", однозначного ответа на этот вопрос нет, пока только предположения.

 

Подробнее об этом:

Цитата

 

Что такое самосознание? Каким образом сделан из нейронов воспринимающий субъект — наше пресловутое "я"? Некоторые нейробиологи считают этот вопрос самым каверзным в науке о мозге (Кандель, Юн). С одной стороны, нет ни малейших оснований предполагать, что в нашей психике есть что-то, сделанное не из нейронов, то есть существующее помимо нейробиологической основы, стандартной нейрохимической "душевной механики". С другой стороны, ощущение себя как некоей реальной самостоятельной сущности, обладающей свободой выбора, свободой воли, — это поистине удивительное и необычное ощущение, и как именно оно зарождается в хитросплетениях нейронных сетей, пока не ясно. 

Но все же кое-какие соображения можно высказать. Скорее всего, эволюционное развитие "я" было тесно связано с развитием "теории ума", умения строить мысленные модели личностей соплеменников, чтобы при помощи этих моделей эффективно предсказывать их поведение. По-видимому, эта задача изначально решалась эволюционирующим мозгом приматов на основе суждения о других по себе. На это намекает, например, наличие зеркальных нейронов у обезьян (см. главу "В поисках душевной грани"). 

 

Довольно глупо рассматривать соплеменников как неведомые "черные ящики", понемногу изучая их свойства методом проб и ошибок, если у мозга "под рукой" всегда есть неплохой и потенциально доступный для анализа образчик такого ящика. Сам мозг и является этим образчиком. Особенно те его части, которые непосредственно отвечают за принятие решений. Если бы только он мог научиться анализировать свою собственную работу, свои собственные алгоритмы принятия решений — как это облегчило бы задачу по моделированию поступков сородичей, ведь их мозг устроен очень похоже! 

Для этого мозгу нужна работоспособная (пусть и упрощенная) мысленная модель самого себя. Возможно, в ходе эволюции гоминид такая модель (внутренний образ себя) постепенно развивалась — и процесс этот шел параллельно с совершенствованием "теории ума", с развитием понимания и прогнозирования реакций соплеменников на свои собственные поступки. Такое прогнозирование необходимо, если вы хотите успешно манипулировать сородичами, поддерживать с ними хорошие отношения, избегать агрессии с их стороны. Мысленная модель себя использовалась в том числе и для попыток взглянуть на себя со стороны — попытаться рассчитать, как мои действия будут восприняты сородичами. 

 

Постепенно развивались замкнутые, кольцевые нейронные контуры, по которым информация могла бегать кругами, постепенно детализируясь и уточняясь: "модель своего планируемого поступка" — "взгляд на себя и на свой планируемый поступок глазами модели соплеменника, построенной на базе модели себя" — "модель реакции соплеменника на этот поступок" — сравнение ее с моделью желаемой реакции" — "внесение поправок в модель планируемого поступка" и т. д. Такие регулярные взгляды на себя со стороны, то есть взгляды на мысленную модель себя глазами мысленной модели соплеменника, которая в свою очередь тоже строится на основе модели себя, — такое циклическое, рекурсивное использование модели себя на каком-то этапе, по-видимому, порождает иллюзию (яркий образ, идею) автономности этой модели, наличия у нее собственного независимого бытия. 

Этим смутным догадкам об эволюционном происхождении и природе "я" можно найти опору в философской и психологической литературе, но с экспериментальными подтверждениями тут пока не густо.

 

Конечно, нейробиологи не могли пройти мимо такой темы. Благодаря их усилиям мы уже знаем, какие участки мозга отвечают за формирование мысленной "модели себя". Главную роль в этом, по-видимому, играют области коры, расположенные на внутренней (медиальной) поверхности полушарий: орбитомедиальная префронтальная кора, дорзомедиальная префронтальная кора, передняя и задняя поясная кора (Northoff, Веrmpohl, 2004). Сюда входят и те участки, которые были повреждены у пациентов, потерявших способность испытывать сопереживание и чувство вины, выносивших моральные суждения на основе холодного расчета, о которых говорилось в главе "Душевная механика". 

Но это знание не сильно приближает нас к пониманию того, откуда берется "я". Будем надеяться, что дальнейшие исследования прояснят природу самосознания. Пока же приходится ограничиваться догадками. В том числе — догадками о том, что развитие "я" в ходе эволюции было связано с теорией ума, циклическими нейронными контурами и рекурсией. Возможно, наше "я" по своей природе — такое же социальное явление, как и весь остальной разум.

 

 

[Adgerbeid]

2 минуты назад, еремей зонов сказал:

А что является материальным носителем этой сущности/субстанции?

Ну, или разума, наличие которого обуславливает самосознание?

 

Тааак. Пожалуйста не путайте сущность (разум) с его носителем.

Причём совсем не факт, что разум проявляется исключительно через головной мозг. Если бы это было так, не было бы никакой разницы между т.н. мужской и женской логикой.

[еремей зонов]

1 минуту назад, Adgerbeid сказал:

Тааак. Пожалуйста не путайте сущность (разум) с его носителем.

Не-не. Я не путаю. Я задаю вопрос - что, какая материальная субстанция в человеке является его, разума, материальным носителем?