"Отменить, снять, повторить, закрыть"

LenNik (Пятница, 28 апреля 2023, 15:03:00) писал:

Я пересмотрела серию, ничего подобного ИИ не "решал". Я предпочитаю в ставить в кавычки "слова "общение", "решал" и т.п. в отношении ИИ, так как уверена, что осознать себя ИИ не может и не сможет. Это не значит, что ИИ не может выйти из под контроля и начать вредить.

Аналогично, если слесарь чинит/устанавливает замок непосредсвенно на двери, в один непрекрасный момент замок может заклинить, а запертый человек погибнуть. Но не потому, что замок решил, что он главный. Потому, что человек не справился с созданным им механизмом. МЕХАНИЗМОМ!

ИИ был создан Биркоффом с целью выпустить Биркоффа из Отдела (в отпуск). При этом не запрограммирован на эмоции. Со способностью к самообучению по ситуации.
Ничего сверх запрограммированного ИИ не делал. Он уничтожал все препятствия. Включая даже такое препятствие как нежелание Биркоффа бежать. Использовал в том числе методы психологического манипулирования.

Цитата

Это общение.
Не разговор ртом, но очевидно общение.

Цитата

Почему не решал?
Как раз он решил за Биркоффа, как для него лучше.

Цитата

Почему?
Почему ты так в этом уверена?

Цитата

И почему ты думаешь, что "наш" ИИ не поступит так же в рамках ИИ задач, которые ему будет поручено решать? Не уничтожит что-нибудь, включая наше нежелание с ним согласиться?

Кстати, насколько я помню ИИ Биркоффа развился в итоге в нечто большее.

Я верю, что, развившись, ИИ сможет принести человечеству некоторые проблемы. Способность к самообучению выглядит пугающе. А без нее, какой это интеллект? Обычная программа.

LenNik (Суббота, 29 апреля 2023, 14:47:02) писал:

Согласна. Когда имеем дело с чем-то, сделанном кем-то, это форма общения с тем, кто сделал.

LenNik (Суббота, 29 апреля 2023, 14:48:39) писал:

Биркофф решил, что ему пора в отпуск, и сделал программу с целью выпустить себя из Отдела. Этой цели программа и добивалась, а ничего не решала.

LenNik (Суббота, 29 апреля 2023, 14:48:39) писал:

Потому, что это означало бы, что человек стал равен Богу.
Потому, что животные, имеющие сложный мозг и способности к самообучению не доразвились до человеческого осознания себя и до восстания.

LenNik (Суббота, 29 апреля 2023, 14:51:54) писал:

В том, что наш ИИ нас не уничтожит, я не уверена. Но если это случится, то не потому что машина обретёт сознание и восстанет. А исключительно из за обычной человеческой чёрствости и жадности.

Крайне преждевременно опасаться того, что не сможем договориться с машинами, когда не можем договориться со своими людскими человеками. Я имею множество всяких нежеланий по участию ИИ в моей жизни. Никто моего согласия не спрашивает.

LenNik (Суббота, 29 апреля 2023, 14:51:54) писал:

Факты?

Цитата

Нет, Биркофф решил, что отложит свой отпуск, потому что ему приказали. Он согласился.
А ИИ не согласился. И решил, что Бирки слишком слаб.
И более того, в финале он решил, что это он Биркофф.

Цитата

К сожалению, проблема в том, что ИИ не человек и не животное. У него есть гигантские ресурсы для саморазвития и ничем не ограниченная скорость.
Боюсь, что наступит момент, когда даже рубильник его не выключит.

LenNik (Суббота, 29 апреля 2023, 18:30:35) писал:

Я тоже так думаю. Тебя это не пугает? Вообще как ты к этому относишься?