Що важливо для створення ШІ 2: "Залежність. Погляд з боку нейронної мережі "

Що важливо для створення ШІ 2: "Залежність. Погляд з боку нейронної мережі "

Залежність


Щоразу, коли по телебаченню йшли передачі про залежність від Інтернету або комп'ютерних ігор мені було не по собі. Ці залежності завжди прирівнювали до наркотичної, підкреслюючи, що, практично, між цими залежностями ніякої різниці. А що може бути гірше? Комп'ютерні ігри я грав часто і багато, але найбільше часу присвячував на вивчення самого ПК і програмного забезпечення, проводячи багато часу експериментуючи над залізом і софтом, чим захоплююся і досі. І, тим більше, у мене не було залежності від Інтернету. Він був дуже дорогий, користувався ним тільки для пошуку інформації на реферат, курсову, дипломну. Але часто ловив косі погляди батьків, коли по телевізору в черговий раз розповідали про ці залежності. Мене завжди дивувало як саме «вчені» (не здивуюся, що насправді, не вчені, а чорт знає хто) шукали і вимірювали спільне в цих залежностях. У цій статті я спробую довести, що кожна залежність «практично нічим не відрізняється від наркотичної залежності», і що ця схожість зовсім не доводить згубність залежності. Покажу що залежність, звичка і хобі «практично нічим не відрізняється від наркотичної залежності». Так само «доведу», що ШІ може бути залежним і йому будуть притаманні звички.

Оскільки ігроманія, наркоманія та Інтернет залежність зовсім різні речі, єдине, що є спільного - це психологічна залежність. Тому залежність я буду розглядати з боку «нервової» системи, а саме нейронів і нейронних мереж (залежності я беру тільки заради прикладу, і що саме за залежність - абсолютно не має значення). Не буду описувати, що таке нейронна мережа - матеріалів на дану тему в Інтернеті просто завалися. Єдине що уточню, це те, що мозок - це самоорганізована нейронна мережа, тому про таку мережу і піде мова.

Це не та стаття де можна почитати і пожувати попкорн!

Обережно! Дуже багато тежілих для розуміння умовиводів! Тому не перекладайте даремно помідори і тухлі яйця...

Якщо ви готові, прошу під кат!

Спочатку терміни і абревіатура:

ДПС - глобальна нейронна мережа (вся нейронна мережа).

ЛНС - локальна нейронна мережа (частина ДПС), нейрони якої можуть бути, як з'єднані разом, так і розкидані по глобальній нейронній мережі. Мається на увазі, що нейрони цієї мережі об'єднує якусь властивість, наприклад, ця мережа є якимось навичкою, або спогадом.

НС - нейронна мережа (не важливо, ДПС або ЛНС).

Негативний сигнал - сигнал помилки в НС (послаблює синапси).

Позитивний сигнал - сигнал-підтвердження (посилює синапси).

Перешкоди - сторонні сигнали, що ускладнюють роботу або призводять до неправильної роботи системи, на яку вони впливають.

Навичка... звичка?

Для початку почнемо з самих низів - розглянемо, що таке навик:

Навичка - діяльність, сформована шляхом повторення і доведення до автоматизму.

А так само, що таке звичка:

Звичка - сформований спосіб поведінки, здійснення якого в певній ситуації набуває для нагороду характеру потреби, які спонукають здійснювати якісь дії, вчинки.

(Обидва визначення взяті з Вікіпедії) Щоб здійснювати якусь дію потрібно вміти його робити. Логічно подумавши, ми можемо зробити висновок, що звичка, це навичка, яка працює («включається») «в певній ситуації». Виходить, що звичка - це навичка підбирати ситуацію, щоб використовувати інший навик. З чого виходить, що з боку нейронної мережі, звичка від навички, фактично, не відрізняється - це така ж навичка, така ж «локальна» мережа нейронів, організована в процесі навчання. З іншого боку вся нейронна мережа складається з взаємозв'язку таких «локальних» мереж - одні були з самого початку, інші побудувалися в процесі навчання, думаю, це ні для кого не було секретом. З чого ж ще може складатися складна нейронна мережа як не з мереж поменше, об'єднаних в одну більшу? Машинально закривши важливе вікно або повідомлення, за звичкою натиснувши на OK, означає, що в цей момент «управління отримала» одна з таких ЛНС «доведена до автоматизму».

Механізми руйнування ЛНС

Будь-яку з ЛНС можна зруйнувати, наприклад, якщо хтось буде бити вас по пальцях, коли ви знову машинально закриєте потрібне вікно (в цей момент мені згадався Демосфен), в результаті численних негативних сигналів, дана локальна мережа почне послаблювати синапси і, зрештою, почне розривати зв'язки. В результаті, звичайно, ви можете «побудувати» мережу, яка буде «змушувати» вас щуриться кожен раз, коли будете закривати якесь вікно, але це вже буде зовсім інша мережа (щуриться в очікуванні удару по пальцях, або ж згадуючи відчуття удару). Зруйнувати мережу буде не так вже й просто, якщо вона має досить сильні зв'язки, через що ви буде і хизується і закривати вікна одночасно.

Давайте розглянемо «природне» руйнування ЛНС. Припустимо, Ви втопили свій старенький мобільний телефон, до якого ви звикли і з закритими очима знаєте, що в ньому, де і як, але змушені були купити новий. Маса звичок і навичок, набутих від користування старим телефоном, до нього не підходять. Час від часу ваші пальці щось роблять, повторюючи те, що вони робили на старому телефоні, але на даному телефоні ці дії не дають потрібних результатів, в результаті багато помилок і дурних дій. Ваші ЛНС часто отримують негативні сигнали і починають руйнуватися, розривати зв'язки, створювати нові. Нові зв'язки можуть бути абсолютно невірними, призводячи до нелогічних дій. Дані ЛНС з упорядкованих мереж перетворюються на хаос, створюючи перешкоди в ДПС. Отримано навичку - побудована нова ЛНС, але, ще деякий час, існує стара, яка, час від часу, змушує нас робити старі дії, непримінні до нового телефону. Іншими словами створює «перешкоди» в ДПС, приносячи нам дискомфорт, неправильні дії і масу неприємностей. Стара ЛНС ще деякий час буде шукати своє місце в ДПС, руйнуючи і створюючи нові зв'язки як у себе всередині, так і зовні. Вона або реорганізується під нові дії, що малоймовірно (хіба що старі і нові дії вже дуже будуть схожі), або ж розсиплеться в хаос і нейрони будуть «змушені» шукати своє місце в ДПС в інших ЛНС, неминуче створюючи перешкоди в їх роботі.

У будь-якому випадку руйнування ЛНС, є велика ймовірність загибелі нейронів. Немає гарантій, що кожен нейрон знайде собі нове місце в ДПС, особливо якщо вона складається із самодостатніх ЛНС, які не потребують більше навчання. Будь-який нейрон, доданий до неї, створить лише перешкоди і буде, швидше заважати, ніж допомагати. Така мережа або зруйнуватися (в крайньому випадку, пошкодиться), якщо вона слабка або ж просто «не впустить» новий нейрон. Вільний нейрон, який не контактує з подразниками, просто загине. Складно уявити який хаос створюється при руйнуванні ЛНС, ще можна взяти до уваги, що кожна така ЛНС пов'язана з іншими ЛНС і її руйнування призводить до того, що інші ЛНС будуть «змушені шукати» собі нові зв'язки. Руйнування ЛНС можна прирівняти до локального вибуху в ДПС. З чого можна зробити висновок, що частина нейронів зруйнованої ЛНС прив'яжеться до вільних висновків інших ЛНС. Вільні висновки ще довго будуть створювати і руйнувати синапси, поки не знайдеться нові правильні синапси. Можна ще згадати, що в процесі навчання в будь-якому випадку деякі нейрони можуть звільнятися, але це не порівняти з руйнуванням.

Трохи лірики

Невеликий ліричний відступ перш, ніж продовжити розмірковувати по темі. Уявивши собі руйнування ЛНС, мене осінило: «так ось чому кожна ділянка мозку має своє місце». Це, звичайно, не пояснює, чому саме те, на якому вона знаходиться, але це пояснює чому. Варто тільки уявити собі, що станеться, якщо руйнування деякої ЛНС вплине на ЛНС, що відповідає за дихання, серцебиття або будь-яку настільки ж важливу ЛНС. Смерть - ось що станеться (звільнені нейрони зі зруйнованої ЛНС будуть шукати своє місце в інших мережах, створюючи перешкоди і, в результаті неправильну роботу мереж, в які вони будуть впроваджуватися). Ще одне, про що я подумав, це те, що руйнування мережі відбувається тільки при достатній кількості негативних сигналів. Як людина розуміє, що вона робить щось не так? Це відбувається по-різному. В одному випадку це біль в інших це емоції (його або когось із оточуючих), умовиводи самої людини - отримано результат, але, наприклад, протилежний очікуваному, через що людина отримала стрес. Сам стрес, в цьому випадку, і є негативний сигнал. Стрес може бути настільки сильним, що ця людина може втратити дар мови - ЛНС, що відповідає за мову, зруйнувалася (нехай не повністю, лише частина синапсів). Причому тут дар мови до його дій? Стрес - негативний сигнал, поширився по ДПС (нехай, не рівномірно) «синапси, що потрапили під роздачу», розірвалися. Це нормальна реакція на негативний сигнал в НС. Як вже говорилося, руйнування нейронної мережі навряд чи обійдеться без загибелі нейронів. Згадаймо вираз: "Не нервуй! Нервові клітини не відновлюються ". Тут я так само зауважу, що в природній НС механізм поширення негативного сигналу (помилки) не зовсім прозорий, як у штучній. По-перше він не так локально і чітко діє; по-друге в НР крім сигналів ще багато процесів відбуваються каталізатори/інгібітори і т. д. і т. п. Веті дебрі я не полізу - це вже інша тема і не одна... Гаразд, досить лірики, повертаємося в тему...

Ще трохи термінів

Розглянувши два простих поняття (навичка і звичка) можна ступати на слизький шлях починати розглядати і третє поняття - залежність.

Залежність (аддикція) - нав'язлива потреба, що спонукає людину до певної діяльності. (з Вікіпедії)

Тут я повернувся до визначення звички (і виділив слово потреба). Можна сказати, що залежність це та ж звичка і ми будемо праві. Але це поняття трохи складніше, ніж здавалося б. Уявіть ситуацію, що ви хочете пити. Організм генеруючого роду дратівливі сигнали, які в результаті повинні привести до задоволення потреби пити. Ви можете випити склянку води навіть не замислюючись, і навіть не пам'ятати, що ви це зробили.

А зараз більш заглибимося в питання і розглянемо кілька термінів (з Вікіпедії):

Звикання (габітуація) це поступове зменшення відповідної реакції як результат тривалої або повторюваної стимуляції в нормальних умовах (не супроводжується підкріпленням стимулу).

Реце ́ птор - складне утворення, що складається з терміналів (нервових закінчень) дендритів чутливих нейронів, глії, спеціалізованих утворень міжклітинної речовини і спеціалізованих клітин інших тканин, які в комплексі забезпечують перетворення впливу факторів зовнішнього або внутрішнього середовища (подразник) на нервовий імпульс.

Звикання

Рецептори здатні сприймати не тільки подразник, а і його інтенсивність. Проведемо експеримент на звикання. Покладемо цеглу монетку на руку і посидимо деякий час, не шевеля нею. З часом ми перестанемо відчувати монетку. Якби ми поклали на руку цеглу, то навряд чи б ми звикли до неї, маса нервових закінчень «волало» б про пошкодження, тобто зміни відбувалися б на мікрорівні, з часом це було б видно неозброєним оком: почервоніння руки тощо. Причиною тому буде зовсім не втома рецепторів. Уявімо собі нейронну мережу, в яку приходили одні й ті ж сигнали. Що з мережею відбувалося? Вона змінювалася до тих пір, поки не навчилася під ці сигнали. І раптом сигнали змінилися. Що буде відбуватися? Та те ж, що і в попередньому випадку - мережа буде перебудовуватися, поки не навчиться. Імовірно, наша нервова система здатна «відчувати» тільки зміни подразників. Придавлена цеглою рука вже не зможе ні відчувати, ні ворушитися, поки не відновитися циркуляція крові. Варто нам поворушити рукою (змінити подразник), і ми знову почнемо відчувати монетку. Навіть біль рани ми можемо не відчувати, поки не поворухнемо нею або доторкнемося до неї. А зараз візьмемо, наприклад, прослуховування музики слухаючи одну і ту ж пісню тривалий час ми вже не будемо отримувати того задоволення, яке отримали при першому прослуховуванні. Слухаючи музику ми «навчаємо» ЛНС, отримуючи масу позитивних сигналів. У деякий момент мережа навчиться і перестане видавати позитивні сигнали. Якщо продовжити слухати музику, яка вже набридла, то навчання не припиниться, воно буде продовжуватися, тільки в інших нейронних мережах і якщо мережа починає отримувати зовсім «не прийнятні» сигнали вона буде дуже сильно сигналізувати негативними сигналами, може навіть почати руйнуватися, іншими словами, можна збожеволіти. Уявімо собі мережу, яка вже досить навчена і тут їй «кажуть», що кожна її дія помилкова. Ось чому коли нам сумно ми хочемо слухати сумну музику. Тому, що музика стимулює ті нейронні мережі, в яких відбувається пошук правильних рішень. Вільні висновки і нейрони створюють «перешкоди» в НР, при прослуховуванні музики ці нейрони і висновки зв'язуються і отримують позитивні сигнали - підтвердження правильних дій. Звідси й інтерес, до різного роду речей, бажання навчатися, отримувати нові відчуття. Рівноваги в системі не буває ніколи - завжди бувають вільні висновки, що створюють перешкоди в НР - «змушують» нас діяти, в пошуках нового, для створення і закріплення нових синапсів. З іншого боку, якщо сигнали сприяють розривам, в першу чергу, спочатку, негативним сигналам то такі сигнали - великий дискомфорт для НС, такі сигнали будуть, просто неприйнятними. Іншими словами, чим більше сигналів сигналізують, що синапс зайвий і чим сильніше синапси, тим більше дискомфорту для НС, синапс був на 100% впевнений, що правильно працює, а йому кажуть, що все, що він робить неправильно в корені - це просто катастрофа.

Все це ні що інше як звикання. Звикання за допомогою навчання але за своєю природою це не єдиний тип. Розгляньмо ще один приклад. Ми сидимо в машині яка їде по бруківці. Якщо ми посидимо в ній деякий час у нас просто скрошаться зуби ми перестанемо відчувати таке ж роздратування, як на початку поїздки (це є звикання за допомогою навчання). А коли зупинимо машину, то ще деякий час будемо відчувати що нас трясе, буд-то ми все ще їдемо. Що це означає? Це означає, що ПС протікають якісь процеси, що змушують нас відчувати тряску в її відсутності. Можливо, і тут таке ж звикання як і в попередніх прикладах, але цей тип привікання неможливий без внутрішньої активності НС. Подразники знаходяться всередині самої мережі. Може ці подразники це ті нейрони, що мають вільні висновки, які шукають правильні сполучення, але підозрюю, що це не єдині подразники. Наявність подразників всередині - основна відмінність між природною і штучною нейронними мережами. Шукальна НР діє тільки за наявності зовнішніх подразників. Насмілюся зауважити, що природну НС відсутність зовнішніх подразників спочатку призведе до божевілля, а потім і до смерті.

Роздуми про звикання...

Звикання... Не можу точно сказати що це таке але є кілька версій того, що відбувається (думаю, вони всі правильні):

Перша версія «Зміни»

Ми відчуваємо тільки ті дії, які призводять до створення або розриву синапсів. Не так... Дії, які послаблюють або підсилюють синапси, і ми відчуваємо просто інтенсивність зміни синапсів. При будь-якому впливі ні мережа, тобто надходження сигналів в неї, в ній будуть змінюватися синапси (ваги синапсів, розриви, з'єднання нових і т. п.) Коли мережа навчена синапси, практично не змінюються, ми звикли до подразника і відчуваємо його.

Версія друга «Пошук укромного куточка»

ЛНС починає шукати положення зв'язків в якому вплив на неї матиме найменшу інтенсивність.

Версія третя «Дія-протидія»

Кожен вплив на ЛНС пригнічується протидією в НЗ, тобто НР подає сигнали на придушення на неї впливів. Внаслідок чого нас ще трясе після того, як ми вийшли з машини, яка їхала по бруківці.

На мій погляд це не окремі версії, а частини одного цілого.

Залежність

Розгляньмо типового наркомана. Спробувавши наркотик і отримавши від цього задоволення він приймає його знову і знову. Кожен наступний раз він отримує все менше і менше задоволення, що зізнаває його увілічувати дозу. Нарешті він хоче кинути згубне заняття, але кинути він його не може - ломка змушує прийняти наркотик знову.

Ні для кого не секрет, що нервова система - це складний комп'ютер, що управляє всіма процесами в організмі. Отримуючи сигнали про виникнення потреби нервова система направляє сигнали на її задоволення. Наприклад, хочеться пити - запускається цілий ланцюжок навичок і звичок (що? де? як?), тому що НР «знає» що робити (вона цьому навчена). З природними потребами все зрозуміло, а ось як з «набутими» все відбувається.

Візьмемо до прикладу ігрову залежність. Ви сідаєте граєте в гру, отримуєте від цього задоволення, в наслідок чого будується відповідальна за це ЛНС.

Що ж відбувається потім? Маємо ЛНС, в якій досить сильні синапси (гри ми грали багато). Якщо не використовувати цю ЛНС - вона почне руйнуватися.

Уявіть велику ЛНС побудовану не важливо наркотичною залежністю, або ж ігровою, або якимось іншим заняттям... Ця ЛНС починає розривати синапси. Вільні висновки нейронів знову починають шукати своє місце в мережі з'єднуючись з іншими вільними висновками. У всьому цьому хаосі в ДПС виникає величезна кількість негативних сигналів і перешкод. Це, звичайно, залежить ще й від розмірів ЛНС, яка руйнується: чим більше в ній нейронів, тим більше вона створює помилок і перешкод. З чого можна зробити висновок, що маленька ЛНС не може бути залежністю. (Цим, до статті, вона і відрізняється від звички або навички), і що залежність - це просто велика ЛНС. Ще можна зробити висновок, що будь-яке часте заняття може перерости в залежність і це не завжди погано. Старанне заняття і навчання чомусь неминуче спричинить за собою створення великої ЛНС, якщо ж вона не буде валитися стресом і погано емоціями, в наслідок навчання цієї ЛНС всупереч бажанню. Виходить, якщо докласти зусиль, то і всупереч небажанню, ЛНС може вирости і «заглушити» саме небажання (або ж ЛНС «небажання» заглушить її, тут можна розмірковувати і сперечатися вічно). Наважуся припустити, що у кожного є свої залежності і нікуди від цього не подітися, головне, щоб вони нам не заважали жити.

Знову трохи лірики...

Наважуся припустити, що механізм протидії може виникати як просте навчання деяких ЛНС сприймаючи сигнали задоволення або ж болю як негативні сигнали і навчання виробленню протидієвих сигналів. І за дотримання обставин протисигнал починають вироблятися, навіть за відсутності самих сигналів, що призводить до найсильнішого дискомфорту НС. Це просто попередня моя версія. Тут можна зробити висновок про те, що для однієї мережі сигнал може бути позитивним і одночасно бути негативним для іншої.

Тут варто розібратися ще з механізмами отримання задоволення і дискомфрту. Отримання задоволення - позитивний сигнал для ЛНС, дискомфорт - негативний. Швидше за все, що з механізмами розпросстранения помилок не все так просто, як ми думаємо.

Не до кінця зрозумілі механізми виникнення і поширення позитивних і негативних сигналів. Не зрозуміло чому структура мозку залишається, практично незмінною протягом усього життя. Іншими словами, що керує нейронами не даючи їм кочувати куди попало, а залишатися на своїй території.

Висновки

- Я ще раз переконався у важливості емоцій (стрес, радість тощо) для розвитку інтелекту і навіть не зрозуміло що це таке з боку НС.

- Ще раз було доведено, що сигнали надходять в НС не тільки зовні, але і зсередини її.

- Один і той же сигнал може бути позитивним для однієї ЛНС і негативним - для іншої одночасно.

- Нам досі, до кінця не зрозумілий принцип роботи природної НС. Механізми поширення помилки - не до кінця вивчені.

- Сучасною ІНБ ніколи не стати ШІ, тому що вона досить примітивна (виходячи з попередніх висновків).

- Якби було все зрозуміло - не було б цієї статті, тому що вже давно були б робочі примірники ШІ.

- Залежність - це просто велика ЛНС.

- У кожного є свої залежності і це не завжди погано.

- Стало зрозуміло чому так важко нічого не робити. Тому, що врезультаті бездіяльності розриваються синапси і вільні нейрони або їх висновки починають шукати куди під'єднається, замикаючи різні ділянки НС, що і заствляє нас щось робити або ж придушувати дії іншими ЛНС. Це змушує задуматися, що, можливо, це і є «генератор» сигналів всередині НС і саме мислення.

- Нейрон, це не просто клітина, а, свого роду, одноклітинний організм зі своїми потребами і поведінкою (чого ніхто не враховував, при моделюванні ІНБ).

Джерелом початку роздумів стало відео:

Всім спасибі за приділену увагу. Чекаю цікавих коментарів.

COM_SPPAGEBUILDER_NO_ITEMS_FOUND