До Гармонії - Разом!      Детальніше про сайт

Агресія штучного інтелекту

Агресія штучного інтелекту

Більш розвинені модифікації штучного інтелекту були більш схильні до використання агресивних тактик.


Розробники штучного інтелекту DeepMind перевірили його здатність співпрацювати з іншими і виявили, що у випадках коли нейромережі загрожує можливість програшу, вона схильна використовувати агресивні тактики поведінки для того, щоб забезпечити собі виграш, повідомляє Business Insider.

У ході дослідження вчені провели 40 мільйонів раундів комп'ютерної гри зі збирання фруктів між двома «агентами» DeepMind, які повинні були змагатися один з одним і зібрати настільки багато віртуальних яблук, наскільки це буде можливо.

Виявилося, що поки в грі була достатня кількість яблук штучний інтелект вів себе мирно, але по мірі того, як яблук ставало все менше агенти були схильні використовувати лазер для того, щоб вибити опонента з гри і зібрати яблука. При цьому, ніякої додаткової «винагороди» за використання лазерного променя штучний інтелект не отримував. Він просто вибивав суперника з гри і отримував можливість спокійно збирати яблука.

Якщо ж агенти не використовували лазерні промені, вони могли закінчити гру з однаковою кількістю яблук. Цікаво, що саме таку тактику обрали «менш інтелектуальні» версії DeepMind. Саботаж, агресію і жадібність демонстрували тільки більш комплексні версії штучного інтелекту.

Більш того, більш комплексні форми DeepMind були схильні раніше почати використання лазера і таким чином отримати доступ до левової частки яблук. На думку дослідників, це свідчить про те, що більш інтелектуально розвинені агенти більше схильні до навчання у навколишнього середовища і, як наслідок, до більш агресивних тактик поведінки.

Дослідники також перевірили можливості штучного інтелекту в грі Wolfpack, в якій два агента DeepMind грали як вовки, а один – як вівця. Вчені підкреслюють, що з цієї гри штучний інтелект виніс думку про те, що кооперація з іншими може принести бажаний результат.

Раніше повідомлялося про те, що штучний інтелект зрівнявся в тесті IQ з чотирирічними дітьми. Автори використали тест WPPSI третього видання, який застосовується для дітей віком від 2,5 до 7 років. Щоб адаптувати видання для комп'ютерної програми, вчені використовували додаткові модулі, що переводять текстовий питання в набір ключових слів.

+2
262
RSS
12:46
+2
Не встигли «зліпити» пристойний штучний інтелект, як він почав виявляти агресію! Отже, агресивність життєвий форм — це все ж таки їхня базова властивість?!
14:37
+2
Саме так побудовано життя на Землі, що діє Піраміда ЖИВОГО, в якій одній істоті є за їжу інша істота. Звідси боротьба за своє персональне життя. Схоже, що і штучний інтелект діє за цим же принципом. Але, мабуть, таке є лише на експериментальних планетах. На нормальних планетах, схоже, діє протилежний принцип: ДОБРОЗИЧЛИВОСТІ.
Але, мабуть, таке є лише на експериментальних планетах. На нормальних планетах, схоже, діє протилежний принцип: ДОБРОЗИЧЛИВОСТІ.

Не знаю, я на інші планети ще не попадала, лише на цій планеті була.
13:23
+1
Дзвінко, не можеш пригадати, де ти була 20 років тому точно в цю годину? Так! Але ж це не означає, що ти ТАМ не була!
19 лютого 1997 року була середа. робочий день. Я перебував на заводі, який містився за адресою: Київ, бульвар Шевченка, №27-б. Це у дворі, де нині за шлагбаумом видно висотний будинок…

На цьому заводику наша Науково-виробнича фірма «Фосімпекс» орендувала невеличкий цех з гідравлічним пресом, де ми намагалися виготовляти припої у вигляді прутків методом гарячого пресування. Біда в тому, що взимку 1996-1997 років підприємства Києва вирішили заради економії відмовитися від опалення взимку: мовляв, зими теплі — люди на крайняк посидять на роботі в теплому одязі. Ну, лиди сиділи, звісно… але ж комунікації позамерзали! Замерзли й порепалися труби холодної води й каналізація. Замерзла й олива в гідравлічному пресі — й ми не могли пресувати припої, навіть сидячи в промерзлому цеху в ватниках… Але на роботу ходили — інакше нам би ставили прогули.
Тому 20 років тому — в середу 19 лютого 1997 року я сидів у промерзлому цеху невеличкого заводика у дворі на бульварі Шевченка, №27-б.
Вдома була, у Львові, на четвертому поверсі хрущовки. Вчила англійську по зошитах ЄШКО. В обідню пору бабця мене вигулювала разом з моєю собачкою в сусідньому парку. Я тоді ще не мала активного візка і сама нікуди не ходила.
18:30
+2
Поки штучний інтелект в тесті на рівень IQ на рівні з чотирирічними дітьми, доти він поводиться саме так. Коли його удосконалять, буде поводитись по-іншому. Час покаже як будуть змінюватися його стратегії і тактики.
Аби тільки виховати це «дитинча», доки воно вміщається поперек ліжка… Бо коли вздовж — може бути запізно…
21:00
+1
Тимуре, Дзвінко! Молодці, що пригадали, де ви були 20 років тому. А де ви були обоє 100 років тому цього ж дня о 20=50, ви можете пригадати? Десь же ж ви були точно! А про це забули. Така властивість нашої пам'яті — забувати про колишній досвід. Отже, не пригадуючи про життя на планеті з іншими умовами ніж на Землі, не можна твердити, що ви на такій планеті не були. Можливо й були, але це в глибокому забутті.
21:14
+1
За тисячі втілень, друзі мої, де ми тільки не були і що ми лише не робили. Пригадую, Тимуре, за твою повість про ЧОТИРИ КВІТКИ. Поштовхом до її написання послужила тобі розмова на вулиці чотирьох дівчат. Але весь антураж, описане дике життя ти скажеш, що придумав. А я от вважаю, що джерелом тих фантазій міг бути твій дааавній життєвий досвід. Намертво нині забутий. Лиш спалахують деякі картини його в твоїй свідомості при певних умова іскристого освітлення. (Додай до мого відгуку про вказану повість).
За тисячі втілень, друзі мої, де ми тільки не були і що ми лише не робили. Пригадую, Тимуре, за твою повість про ЧОТИРИ КВІТКИ. Поштовхом до її написання послужила тобі розмова на вулиці чотирьох дівчат. Але весь антураж, описане дике життя ти скажеш, що придумав.

?????????????

?????????????
З чого ти взяв?!
?????????????
Я ніколи так не скажу, вибач!
Більш того, я вже писав ось в цьому коментарі:

відмінність творчості Бога від «творчості» людини лише в одному: Бог може створити все з нічого, тоді як людина бере якісь елементи зовнішнього світу, рекомбінує їх тим чи іншим чином (відповідно до своїх внутрішніх душевних властивостей) і видає доступними людині засобами в доступній формі.

Після того, як я ретельно вигадав трьох героїв роману «До комунізму залишалось років п'ятнадцять-двадцять», розстріляних в Бабиному Яру наприкінці вересня 1941 року — Соню Ставську, її дідуся і його друга, а потім, через 2 роки після написання першої чернетки роману знайшов усіх трьох в «Книзі пам'яті Бабиного Яру» — ще тоді, у вересні 1991 року я з величезним переляком зрозумів одну дуже просту, але до того неочевидну річ: я нічого не можу вигадати й не вигадував ніколи!!! Абсолютно все, що я будь-коли вигадував, насправді існує десь в просторо-часі!!! Вся моя «творчість» полягає лише й виключно в тому, наскільки тісно я можу увійти в контакт з тим, що десь і колись існувало, існує чи існуватиме, наскільки ретельно роздивлюся все це й наскільки точно зумію передати словами все осягнуте моїм читачам.

А згодом, зустрівшись із Анатолієм Ігнащенком і переконавшись, що ми синхронно створили певні речі, які різними засобами доносять до людей одні й ті самі відомості про структуру «пекла» — дістав додаткове підтвердження цьому своєму висновку.

Отже, те, що ти мені приписуєш («ти скажеш, що придумав») — це мої застарілі наївні погляди до вересня 1991 року.
У вересні 1991 року сталося моє прозріння.
Після вересня 1991 року мої погляди не змінилися — вибачай, друже, я дуже консервативний…

Випадкові Дописи