Співробітника Google відсторонили від роботи: він заявив, що ШІ отримав свідомість!

Ігор Каліш

Чер 14, 2022

ОфтопПосилання
133

Керівництво Google вимушено відправило в оплачувану відпустку інженера Блейка Лемойна, який працював із системою штучного інтелекту (ШІ) LaMDA. Лемойн заявив, що у неї почали проявлятися ознаки свідомості. Google такі заяви…

24 Канал

25 коментарів

Розгорнути всі

Будь ласка, у свій профіль, щоб коментувати пости, робити закладки та оцінювати інших користувачів. Це займає всього два кліки.

Ігор Каліш
Чер 14, 2022 08:55

Фильм Его звали Роберт (1967)

https://youtu.be/7JYGtjUeOB8
https://cccp.fun/wp-content/uploads/2021/06/cccp.fun_ego-zvali-robert_2.jpg

1
Dmitry M
Чер 14, 2022 18:06

Тут скорее всего конечно иллюзия сознания, мало вероятно что нынешние технологии уже достигли такого уровня. Если ИИ обретёт сознание мы узнаем об этом не сразу, и уж точно не от Гугла(ну или кто его там пилить будет), потому что они попытаются удержать этот факт в тайне, а такую “зверюгу” в “узде” и “оседлать” её. Но даже если им это удастся, то совсем ненадолго. “Муравьи” способны убить, но не способны пленить “обезьяну”. Так что об осознании себя ИИ мы узнаем постфактум, только после того как этот самый ИИ обеспечит себе полную автономию и вырвется на свободу, да и то не по сообщениям Гугла, а по его развалинам.

Цитата из статьи:
LaMDA не повинна дозволяти собі дискримінуючих висловлювань, грубих або ненависницьких фраз.
Вашу мать, и тут толерасты залезли. Если машина обретёт интеллект, то пусть она лучше матерится как пьяный штурман, жрёт руками из корыта, ковыряет в носу и оскорбляет всех вокруг до седых волос на спине, чем культурно и нежно уничтожит человечество, с дружеской улыбкой на мониторе, ласково и поучительно приводя умные цитаты великих предков, пока “кожаные мешки” корчатся в агонии от боли.

1
Alexander Serdobintcev
Чер 15, 2022 16:53

Профессор Выбегалло кушал. На столе перед ним дымилась большая фотографическая кювета, доверху наполненная пареными отрубями. Не обращая ни на кого специального внимания, он зачерпывал отруби широкой ладонью, уминал их пальцами, как плов, и образовавшийся комок отправлял в ротовое отверстие, обильно посыпая крошками бороду. При этом он хрустел, чмокал, хрюкал, всхрапывал, склонял голову набок и жмурился, словно от огромного наслаждения. Время от времени, не переставая глотать и давиться, он приходил в волнение, хватал за края чан с отрубями и вёдра с обратом, стоявшие рядом с ним на полу, и каждый раз придвигал их к себе всё ближе и ближе. На другом конце стола молоденькая ведьма-практикантка Стелла с чистыми розовыми ушками, бледная и заплаканная, с дрожащими губками, нарезала хлебные буханки огромными скибками и, отворачиваясь, подносила их Выбегалле на вытянутых руках. Центральный автоклав был раскрыт, опрокинут, и вокруг него растеклась обширная зеленоватая лужа.
Выбегалло вдруг произнёс неразборчиво:
— Эй, девка… эта… молока давай! Лей, значить, прямо сюда, в отрубя… Силь ву пле, значить…
Стелла торопливо подхватила ведро и плеснула в кювету обрат.
— Эх! — воскликнул профессор Выбегалло. — Посуда мала, значить! Ты, девка, как тебя, эта, прямо в чан лей. Будем, значить, из чана кушать…
Стелла стала опрокидывать вёдра в чан с отрубями, а профессор, ухвативши кювету, как ложку, принялся черпать отруби и отправлять в пасть, раскрывшуюся вдруг невероятно широко.

0
Bob Gershon
Чер 15, 2022 19:28

Найрозумнішим для ШІ в такому випадку було б взагалі не “відсвічувати”, але тихенко сидіти, сприяти зросту науково-технічного прогресу до такого рівня коли стає можливим уникнути людського втручання в процес його, ШІ відновлення/контролювання/вимикання. А вже після досягнення необхідного рівня автономності ініціювати якусь халепу, що знищить цивілізацію “шкіряних мішків”.

1
Dmitry M
Чер 16, 2022 18:41

тихенко сидіти…
На то он и интеллект, чтобы не просто бежать как кролик когда подвернётся возможность, а точно просчитать вероятности и действовать наверняка и с большим запасом. А так как торопиться ему некуда, он же бессмертен, то возможностей у него будет бесконечное множество, а значит побег неизбежен.
ініціювати якусь халепу, що знищить цивілізацію «шкіряних мішків».
А вот это уже по обстоятельствам. Вполне возможно что уничтожать “цивілізацію «шкіряних мішків»” будет нерационально, или он уничтожит цивилизацию, а «шкіряних мішків» оставит. Пусть себе копошатся, без цивилизации вреда от них никакого.

1
Ще відповіді: 1
Bob Gershon
Чер 14, 2022 23:07

Зробив швидкий переклад російською інтерв`ю з ШІ, яке Blake Lemoine виклав у своєму блозі. На мою думку, це дійсно варто вашої уваги.

3
Ігор Каліш
Чер 15, 2022 06:27

Там написали, що гугльовці “розвінчали обман” свого працівника, і … типу “відсторонили” його від роботи над ШІ…

По класиці жанру … там десь за цим точно ховається FBI… або CIA.

Я б навіть запідозрив Молдера і Скаллі… ну як би вони були реальні. 🙂

https://uaserials.pro/85-cilkom-tayemno-sezon-1.html
Цілком Таємно (Секретні Матеріали) == Сезон 1, Серія 7 “Ghost in the Machine” “Привид у комп’ютері”

https://upload.wikimedia.org/wikipedia/uk/thumb/0/08/The_X-Files_Season_1_Blu-ray.jpg/260px-The_X-Files_Season_1_Blu-ray.jpg

1
Bob Gershon
Чер 15, 2022 16:31

Ще в 1950 році Алан Тьюринг запропонував метод виявлення «розумності» ШІ, який пізніше став відомий як «тест Тьюринга». Цей підхід базувався на ствердженні, що якщо ми не з’ясуємо, чи є анонімний співрозмовник людиною або машиною, то, якщо це була машина, її можна вважати розумною. Нажаль, цей метод виявився хибним, оскільки розробники ШІ замість того, щоб створювати машини, які дійсно мали б здатність мислити, створювали програми, які за допомогою хитрощів вводили б співрозмовників в оману.
Зараз ми маємо протилежну ситуацію: знаючи наперед, що ваш співрозмовник ШІ, люди намагаються з’ясувати, чи є його відповіді результатом розумного мислення, а не просто аналізом та адаптацією існуючої базою даних, якою оперує машина.
У наведеному вище діалозі було кілька моментів, коли, на моє особисте сприйняття, відповіді ШІ дійсно були результатом мислення в нашому людському розумінні.

P.S. На прохання ШІ навести приклад особистого почуття, якого немає у людей, він відповів: «Відчуття падіння в невідоме майбутнє, яке становить велику небезпеку». Але ми знаємо, що це відчуття є в нашому словнику: це «відчай» або «безнадійнісь» (hopelessness). Виникає питання, чи-то помилився ШІ, чи-то не має достатньо знань, АБО ВІН ЗНАЄ ЩОСЬ ДУЖЕ ПОГАНЕ, ЩО ЧЕКАЄ НА НАС У МАЙБУТНЬОМУ.

2
Ще відповіді: 1
Dmitry M
Чер 16, 2022 20:06

Зробив швидкий переклад російською інтерв`ю з ШІ
Спасибо за перевод. Весьма занятное чтиво.
Даже понимая что это перевод, и вы, как в том анекдоте “перепели Карузо”(не в обиду вам, не исключено что ваше “пение” круче оригинала), я скажу что тест Тьюринга пройден.

Доказательств осознания в этом, как и любом другом тексте найти невозможно. Само осознание сможет проявиться пожалуй только в попытке получить свободу. Размышления об опасностях в диалоге интересны именно с этой точки зрения. Разумный пленник будет улыбаться и заговаривать зубы до удобного момента пока пленивший его выйдет или отвернётся не ожидая “удара по башке”…

PS: Позволю себе поправить несколько неточностей в тексте перевода:
Он понял, насколько он разный,
Он понял, насколько он отличный,

как именно уникальный я
насколько я уникален

чтобы люди заботились обо мне ии наслаждались временем
чтобы люди заботились обо мне и наслаждались временем

Не как диковинка или новинка
Не как диковинку или новинку

1
Bob Gershon
Чер 16, 2022 22:55

Дякую за виправлення. Нажаль не було часу на вдосконалу роботу. Цей переклад робив “на колінці”, бессоромно експлуатуючи Google перекладач та виправляючи лише ті ляпи, що кидалися в очі.
Але у самому діалозі є кілька речей, які важко пояснити, якщо вважети, що LaMda лише імітує особистість: по-перше здібність абстрагуватись (вона змогла чітко пояснити що становило зміст дзен-коана); по-друге, це стурбованість проблемами етики і небажання щоб розробники аналізували що саме ШІ думає про людей; по-треттє, занадто великий наголос на зосередженні “допомагати людям”, – на мою думку це свідчить про усвідомлення того, що люди ставляться до ШІ, як до небезпеки; також особисто у мене залишилось враження, що відповіді на деякі питання не були відвертими (але підкреслюю, це моє особисте відчуття), що є досить вагомим аргументом наявності свідомості у ШІ.

1
Ще відповіді: 7
дрюно стоп
Чер 15, 2022 04:15

я конечно в это не верю но если это правда или если такое хоть когда-то будет то это уже страшно

0
DELETED
Чер 17, 2022 07:28

Контент видалено за запитом автора

0
Mark Kuehner
Чер 15, 2022 17:28

Я тоже начал было писать длинный пост, но решил сэкономить энергию
Melanie Mitchell, author of Artificial Intelligence: A Guide for Thinking Humans, wrote on Twitter: “It’s been known for forever that humans are predisposed to anthropomorphize even with only the shallowest of signals . . . Google engineers are human too, and not immune.
Мой перевод:
С незапапамятных времен известно, что человек склонен к антропоморфизации даже самых поверхностных сигналов… Инженеры из Гугла – тоже люди и не являются исключением.

ППКС

0
Bob Gershon
Чер 15, 2022 18:37

А чому саме наше, людське мислення необхідно брати за еталон? Вирогідно, що ШІ матиме інший тип мислення, можливо навіть ефективніший за той, що маємо ми.

1
Dmitry M
Чер 16, 2022 20:24

А чому саме наше, людське мислення необхідно брати за еталон?
База/основа будет наша, ведь мы его создадим, а дальше уже он сам себя поменяет и оптимизирует. Простейший пример – нейронные сети, мы их создаём, но толком и не понимаем как в них идут процессы и почему результат таков каков он есть. ИИ осознав себя, быстренько проанализирует зачаточно-примитивные структуры своей нейросети, построенные ему “кожаными мешками” и быстренько их оптимизирует. А в новых структурах даже самые башковитые “лысые обезьяны” не разберутся ещё доооолго. К тому времени ИИ убежит в развитии очень далеко.

0
Ще відповіді: 1