LeNet - перша нейромережа

LeNet - перша нейромережа для розпізнавання образів

Уявіть собі: ще у 40-х Алан Тюрінг лише мріяв про «машини, що мислять», а вже наприкінці 90-х Янн ЛеКун створив LeNet - першу нейромережу, яка навчилася бачити. Не абстрактно, не уявляти, а реально розпізнавати прописні символи та переводити їх у цифровий формат. Доречі, працювала без інтернету. Маленький технічний експеримент і водночас революція, без якої не було б ні ChatGPT, ні Gemini, ні Grok.

Сьогодні штучний інтелект пише тексти, малює картини, складає музику, навіть допомагає лікарям ставити діагнози. Але перш ніж він навчився всього цього - були десятиліття злетів і падінь. Давайте розберемося, з чого все починалося.

Як зароджувались нейромережі

Алан Тюрінг

Алан Тюрінг першим придумав зробити з комп'ютера розумного співрозмовника, який буде відповідати на різні питання та навчатися у процесі розмови. Він придумав концепцію самонавчальних машин, надихаючись роботою мозку людини. Обчислювальні здібності у комп'ютерів тоді звісно ж були, але то були лише калькулятори, розміром з кімнату.

У Другу світову Тюрінг створив машину, яка розгадала «Енігму» - німецький шифратор. Фактично, його винахід врятував тисячі життів. Про це навіть зняли фільм - “Гра в імітацію”.

Саме він вигадав той знаменитий тест, яким перевіряють ШІ. Суть проста: якщо ви спілкуєтеся з машиною і не розумієте, чи людина то чи ніщо - можна вважайти ШІ не таким вже і штучним.

Тест так і назвали - Тест Тюрінга. Його й досі використовують, щоб перевіряти ШІ. А починаючи з 2024 року, його тепер з легкістю обдурюють ChatGPT, Llama, та Gеimini 2,5. Отак

Математична модель нейрона

У 1943-му МакКаллок і Піттс описали математичну модель нейрона, примітивного, але все ж «штучного». А в 1958-му Френк Розенблатт винайшов персептрон, що міг розпізнавати прості форми: кружечки, квадрати. Здавалося - ось він, прорив! Але дива не сталося. Персептрон не вмів працювати зі складними задачами.

Уряди перестали фінансувати проєкти з нейромережами і все загуло років на 10 так точно.

Відродження ШІ та нові алгоритми

У 80-х ситуація змінилася. З’явився алгоритм зворотного поширення помилки - коли нейромережа вчиться на власних помилках коригуючи зв’язки. Звучить просто, але це був ключ до багатошарових мереж.

Янн ЛеКун і народження LeNet

І ось 1993 рік. Янн ЛеКун представляє світові LeNet. Це була перша згорткова нейромережа, заточена під обробку зображень. Революція полягала в тому, що вона не дивилася на картинку як на плоский набір цифр, а бачила локальні деталі: краї, кути, лінії.

LeNet-5

У 1998 році була еволюція - LeNet-5. Вона навчалася на базі MNIST - 60 тисяч прикладів рукописних цифр. Її точність вражала: 99%. Уявіть собі, цю систему впровадили в банківську систему США у 2000-х, вона читала 10% всіх чеків в країні і сортувала пошту, заощаджуючи мільйони. Встановлювалася в банкомати та поштові машини. Працювала на звичайних процесорах, без сучасних GPU!

За відкриття LeNet, ЛеКун, з Бенжіо та Хінтоном отримали премію Тюрінга в 2018-му.

Еволюція нейромереж

  • 1943 - математична модель нейрону МакКаллоха-Піттса;
  • 1948 - ідеї Тюрінга про машини, що навчаються;
  • 1950 - тест Тюрінга;
  • 1958 - персептрон Розенблатта;
  • 1980 - багатошарові мережі, зворотне поширення помилки;
  • 1993 - LeNet;
  • 1998 - LeNet-5;
  • 2012 - AlexNet: глибоке навчання, завдяки GPU;
  • 2017 - Transformer: архітектура, яка перевернула обробку тексту;
  • 2022-2025 - мультимодальні гіганти: ChatGPT, Gemini, Grok, Stable Diffusion та всі інші.

Якщо порівняти: LeNet працювала з картинками 32×32 пікселі, а сучасні моделі генерують відео в 4K. Від 60 тисяч параметрів ми дійшли до сотень мільярдів.

І Наостанок

LeNet - фундамент, на якому стоять всі сучасні нейромережі. Вона першою навчила машини бачити. За якихось 30 років ми пройшли шлях від читання чеків до створення картин, музики й фільмів. Що не день - то з'являється нова нейромережа. Цікаво, чого ще чекати?

Поділитися:
Відгуки
Ваша оцінка: