LeNet - перша нейромережа

Уявіть собі: ще у 40-х Алан Тюрінг лише мріяв про «машини, що мислять», а вже наприкінці 90-х Янн ЛеКун створив LeNet - першу нейромережу, яка навчилася бачити. Не абстрактно, не уявляти, а реально розпізнавати прописні символи та переводити їх у цифровий формат. Доречі, працювала без інтернету. Маленький технічний експеримент і водночас революція, без якої не було б ні ChatGPT, ні Gemini, ні Grok.
Сьогодні штучний інтелект пише тексти, малює картини, складає музику, навіть допомагає лікарям ставити діагнози. Але перш ніж він навчився всього цього - були десятиліття злетів і падінь. Давайте розберемося, з чого все починалося.
Як зароджувались нейромережі
Алан Тюрінг
Алан Тюрінг першим придумав зробити з комп'ютера розумного співрозмовника, який буде відповідати на різні питання та навчатися у процесі розмови. Він придумав концепцію самонавчальних машин, надихаючись роботою мозку людини. Обчислювальні здібності у комп'ютерів тоді звісно ж були, але то були лише калькулятори, розміром з кімнату.
У Другу світову Тюрінг створив машину, яка розгадала «Енігму» - німецький шифратор. Фактично, його винахід врятував тисячі життів. Про це навіть зняли фільм - “Гра в імітацію”.
Саме він вигадав той знаменитий тест, яким перевіряють ШІ. Суть проста: якщо ви спілкуєтеся з машиною і не розумієте, чи людина то чи ніщо - можна вважайти ШІ не таким вже і штучним.
Тест так і назвали - Тест Тюрінга. Його й досі використовують, щоб перевіряти ШІ. А починаючи з 2024 року, його тепер з легкістю обдурюють ChatGPT, Llama, та Gеimini 2,5. Отак
Математична модель нейрона
У 1943-му МакКаллок і Піттс описали математичну модель нейрона, примітивного, але все ж «штучного». А в 1958-му Френк Розенблатт винайшов персептрон, що міг розпізнавати прості форми: кружечки, квадрати. Здавалося - ось він, прорив! Але дива не сталося. Персептрон не вмів працювати зі складними задачами.
Уряди перестали фінансувати проєкти з нейромережами і все загуло років на 10 так точно.
Відродження ШІ та нові алгоритми
У 80-х ситуація змінилася. З’явився алгоритм зворотного поширення помилки - коли нейромережа вчиться на власних помилках коригуючи зв’язки. Звучить просто, але це був ключ до багатошарових мереж.
Янн ЛеКун і народження LeNet
І ось 1993 рік. Янн ЛеКун представляє світові LeNet. Це була перша згорткова нейромережа, заточена під обробку зображень. Революція полягала в тому, що вона не дивилася на картинку як на плоский набір цифр, а бачила локальні деталі: краї, кути, лінії.
LeNet-5
У 1998 році була еволюція - LeNet-5. Вона навчалася на базі MNIST - 60 тисяч прикладів рукописних цифр. Її точність вражала: 99%. Уявіть собі, цю систему впровадили в банківську систему США у 2000-х, вона читала 10% всіх чеків в країні і сортувала пошту, заощаджуючи мільйони. Встановлювалася в банкомати та поштові машини. Працювала на звичайних процесорах, без сучасних GPU!
За відкриття LeNet, ЛеКун, з Бенжіо та Хінтоном отримали премію Тюрінга в 2018-му.
Еволюція нейромереж
- 1943 - математична модель нейрону МакКаллоха-Піттса;
- 1948 - ідеї Тюрінга про машини, що навчаються;
- 1950 - тест Тюрінга;
- 1958 - персептрон Розенблатта;
- 1980 - багатошарові мережі, зворотне поширення помилки;
- 1993 - LeNet;
- 1998 - LeNet-5;
- 2012 - AlexNet: глибоке навчання, завдяки GPU;
- 2017 - Transformer: архітектура, яка перевернула обробку тексту;
- 2022-2025 - мультимодальні гіганти: ChatGPT, Gemini, Grok, Stable Diffusion та всі інші.
Якщо порівняти: LeNet працювала з картинками 32×32 пікселі, а сучасні моделі генерують відео в 4K. Від 60 тисяч параметрів ми дійшли до сотень мільярдів.
І Наостанок
LeNet - фундамент, на якому стоять всі сучасні нейромережі. Вона першою навчила машини бачити. За якихось 30 років ми пройшли шлях від читання чеків до створення картин, музики й фільмів. Що не день - то з'являється нова нейромережа. Цікаво, чого ще чекати?