Воспитание Нейросетей
Шрифт:
С точки зрения физиологии происходят следующие процессы:
1. Сигналы новой информации, поступая через сенсоры, стимулируют выработку меж синаптических нейромедиаторов.
2. Нейромедиаторы попадают на рецепторы нейронов, которые запускают активацию генов, ответственных за нейрогенез.
3. Происходит формирование новых синапсов между отростками нейронов. Уровень сложности (а значит и способностей) сети зависит именно от количества нейронов с синапсами. Во взрослом мозгу около 200 млрд нейронов, причем от каждого могут отходить десятки тысяч отростков. Т.е в мозгу 1.25*1017 транзисторов, тогда как на всей нашей планете в во всех существующих компьютерах и смартфонах их 1*1017
1. Новые нейроны объединяются в нейро группы – совокупность клеток, отвечающая за определенную функцию. Например, когда ребенок учит букву А, это значит
2. Запоминание важной информации. Это происходит за счет создания молекул памяти в нейронах и новых соединений между нейронами.
3. Забывание ненужной информации. Да-да, забывание – это тоже труд.
Важные особенности, на которые следует обратить внимание:
Первое и, наверное, самое важное, это то, что мозг развивается только в том случае, если он испытывает когнитивную нагрузку. Только при решении задач мы учимся с ними справляться. Наивно полагать, что способности придут сами, или того хуже, что они заложены лишь по происхождению. Безусловно, генетический потенциал играет ключевую роль, но без тренировки
Второе, мозг не живет своей отдельной жизнью в стороне от всего остального организма. Мышцы оказывают огромное влияние на развитие мозга. Недаром древние греки говорили: “Хочешь быть красивым – бегай, хочешь быть здоровым – бегай, хочешь быть умным – бегай.”
Отсутствие тренировки губительно и приводит к атрофии мыслительных способностей. Фактически рост и развитие мозга напрямую зависит от информации в него попавшей. И если стимулы не поступали, то соответственно нейроны и их отростки не росли. Ну а если думать нечем, то и чудес не бывает, из ничего ничего не появляется.
Что может пойти не так?
На самом деле современный мир ставит нас в крайне неудобное и уязвимое положение. Во-первых, это общая парадигма преследования комфорта. Современные люди перестали ходить ногами и думать головой, прекратили на полную использовать свой терморегуляционный потенциал. Только представьте, что за жизнь была у древних людей, если ископаемые останки охотников собирателей говорят нам о том, что с переходом к сельскому хозяйству люди стали ниже ростом, у них появилось большое количество маркеров стресса и болезней. Но главная трагедия современного человека – существенно сократился объем мозга. По всей видимости, наши предки-охотники вели гораздо более интересную и насыщенную жизнь, которая заставляла использовать ум на всю катушку. Иначе не было смысла содержать такой дорогой орган.
Интересным является тот факт, что ни у неандертальцев, ни у первых кроманьонцев нет следов обуви. По всей видимости, они ходили босиком, а в ледниковые периоды зимы были не в пример современным. Следует учесть, что 30 тыс. лет для эволюции – не так уж и много для таких признаков. Т.е. даже если мы сейчас не ходим босиком зимой, это совершенно не значит, что у нас не заложен генетический потенциал так делать. И это может послужить толчком для развития, в том числе и интеллекта. Ведь если холодновато стоять, нужно больше ходить и бегать, то кто знает, какой эффект на ум окажет такое воздействие. Что ясно наверняка, так это то, что как только мы стали искать комфорт во всем, наши организмы стали объективно хуже функционировать.
Когнитивный шум
Количество данных в наш “информационный” век ошеломляет. Недостаток информации сложно себе вообразить. Однако не все так радужно. В головокружительном потоке данных очень легко потеряться. Да и не вся информация одинаково полезна. Однако, прежде чем рассмотреть вопрос вреда или пользы, нужно немного углубиться в физиологию нервной системы. Понимание базового функционала поможет ярче себе представлять все плюсы и минусы избытка знаний.
Если очень сильно упростить, то передача импульсов зависит от энергии, которую нужно потратить, и от количества веществ, которые передают импульс через синапс. Во-первых, при получении входящего сигнала нужно генерировать электрический импульс, который проведет информацию нейронам-соседям по отросткам. Помимо энергии для начального импульса, определенное количество энергии нужно и для того, чтоб передать сигнал от одного нейрона к другому через синапс. Для того чтоб вытолкнуть пузырьки нейромедиатора в синаптическую щель, а другому нейрону их втянуть себе нутрь тоже нужно тратить энергию.
Как вы понимаете, и энергия химических связей, и пузырьки с нейромедиатором – это величины не бесконечные, и при нагрузке расходуются. Для того, чтоб восстановить работоспособность, нужны время и ресурсы. И все бы хорошо, если бы ценные резервы расходовались на благое дело. Впрочем, так происходит далеко не всегда. Довольно частое событие, когда наше внимание сосредоточено на вещах, абсолютно не влияющих на наше развитие и даже вредят ему. Ведь для нейрона нет принципиальной разницы, какой сигнал передавать, будь то картинка из учебника или игры из мобильного телефона. Топливо горит в обоих случаях. Усугубляется ситуация и тем, что современные технологии достигли невиданных высот и поглощают наше внимание с огромной силой. Внимание – это сокровище, за которым идет охота. Причем, пожирая внимание, мобильное приложение, как правило, не оставляет ничего полезного взамен. Тем временем, из-за яркости стимула возникает реакция положительного подкрепления и формируется зависимость, человек сжигает свои ресурсы впустую снова и снова. Обратите внимание: полезная информация, зачастую, требует повышенной концентрации и усилий. Такие действия не особенно приятны, из-за того, что мало яркости стимула и сиюминутного наслаждения. Значительно проще бросить рутинный изнуряющий труд и вернуться в уютную яркую картинку очередной игры или листалки коротких бессмысленных видео. В главе об энтузиазме мы подробнее остановимся на причинах и адаптациях, которые развили в нас такую переходящую в патологическую зависимость тягу, к новому и интересному. Хорошие новости заключаются в том, что способность к концентрации – это тренируемый навык. Даже если вам кажется, что ваш ребенок ни за что не способен быть внимательным, это не так. Вероятно та информация, которая нашла бы отклик и заставила его сконцентрироваться, не попала в поле зрения. Правда, чем дольше тренировка концентрации внимания откладывается в долгий ящик, тем тяжелее будет наверстать упущенное. Ведь пластичность мозга не бесконечный ресурс. Но при должной мотивации даже взрослые люди способны на впечатляющие результаты.
Плохие данные – плохие результаты
Еще один парадоксальный вывод, который становится очевидным при работе с искусственными нейросетями. Приблизительно 80% рабочего времени тратится на подготовку данных. Для того, чтоб добиться более-менее адекватного результата от модели, нужно как следует покорпеть над качеством и структурой информации, которая будет служить субстратом для обучения. Любопытно и то, что, порой, лишь маленькие отклонения ведут к очень плохим результатам. Именно та легкость, с которой можно все испортить, приводит к мысли, что абсолютно идентичная ситуация и с мозгом человека, и с информацией в него попадающей. Не нужно лениться лишний раз подумать что, в какой последовательности, и кому преподавать. Естественно, что нужно брать во внимание индивидуальные психофизиологические особенности, и текущий уровень знаний. Одним информацию нужно подавать маленькими кусочками, в виду темперамента и быстрой утомляемости нервной системы, другим, более усидчивым и покладистым – куски побольше. Но для успешного развития структура данных должна подходить к способностям как ключ к замку. В противном случае работа будет лишь бесполезной тратой времени и сил.
Большое количество повторений
Для того, чтоб добиться устойчивого положительного результата, одного единственного стимула недостаточно. Да и пары тройки тоже вряд ли хватит. Только многократные повторения приводят к достоверно адекватному ответу сети. Это актуально как для искусственной сети, так и для человека.
Все навыки, которые человек приобретает в течение жизни подчиняются тем же правилам. И не имеет значения, говорим ли мы о чтении, математике или фигурном катании: везде процесс идентичен. Например, сев за руль автомобиля лишь однажды, наивно полагать, что этого хватит для полноценного вождения. Для уверенного управления машиной нужны часы и часы практики, пока мозг как следует не уяснит связи между стимулами, научится концентрироваться на важных и игнорировать второстепенные. Ведь последнее, что нужно в критической ситуации – это длительные размышления над тем, где педаль тормоза, а где сцепления. Перед тем, как водитель будет самостоятельно, без помощи инструктора, управлять автомобилем, навыки должны быть отточены до автоматизма. И ничем, кроме как повторением не добиться результата. Естественно, многое зависит от типа нервной системы, обучаемости или предварительного знакомства с азами вождения. Но в любом случае многократные итерации формируют анатомические изменения в мозгу, которые и позволяют пользоваться навыками вождения.
Хорошие новости заключаются в том, что можно маленькими шажками идти к результату не утруждая себя изнурительным трудом. Ведь все стимулы без исключения оставляют свой отпечаток на нейро-субстрате. Основное правило – постоянство. Эффект обязательно появится. Есть ряд исследований, подтверждающий, что, например, навык игры на фортепьяно прогрессирует гораздо быстрее, если учащийся играет по пятнадцать минут в день, пять дней в неделю, по сравнению с двумя часовыми занятиями. Частые кратковременные занятия получаются и проще для психики и занимают меньше времени при большем эффекте. Бесспорно, если обучение приносит удовольствие, то в таком состоянии нужно находиться чем больше, тем лучше. Ведь это самое продуктивное настроение с точки зрения и работоспособности, и плодотворности обучения. Если вам повезло попасть в так называемый поток, нужно в нем оставаться. Когда мозг захватывается увлекательной идеей, время летит незаметно и послевкусие от труда сугубо положительное.