8.9 KiB
Відомі архітектури CNN
VGG-16
VGG-16 — це мережа, яка досягла точності 92.7% у класифікації ImageNet (top-5) у 2014 році. Вона має наступну структуру шарів:
Як видно, VGG слідує традиційній пірамідальній архітектурі, яка є послідовністю шарів згортки та пулінгу.
Зображення з Researchgate
ResNet
ResNet — це сімейство моделей, запропонованих Microsoft Research у 2015 році. Основна ідея ResNet полягає у використанні резидуальних блоків:
Зображення з цієї статті
Причина використання ідентичного проходу полягає в тому, щоб шар міг передбачати різницю між результатом попереднього шару та виходом резидуального блоку — звідси назва резидуальний. Ці блоки набагато легше тренувати, і можна створювати мережі з кількома сотнями таких блоків (найпоширеніші варіанти — ResNet-52, ResNet-101 і ResNet-152).
Цю мережу також можна уявити як таку, що здатна адаптувати свою складність до набору даних. Спочатку, коли ви починаєте тренувати мережу, значення ваг невеликі, і більшість сигналу проходить через ідентичні шари. У процесі тренування, коли ваги стають більшими, значущість параметрів мережі зростає, і мережа адаптується, щоб забезпечити необхідну виразну потужність для правильної класифікації зображень.
Google Inception
Архітектура Google Inception робить цей підхід ще на крок далі, будуючи кожен шар мережі як комбінацію кількох різних шляхів:
Зображення з Researchgate
Тут важливо підкреслити роль згорток 1x1, оскільки спочатку вони можуть здатися нелогічними. Навіщо нам потрібно проходити зображення через фільтр 1x1? Однак слід пам’ятати, що фільтри згортки також працюють із кількома каналами глибини (спочатку — кольори RGB, у наступних шарах — канали для різних фільтрів), і згортка 1x1 використовується для змішування цих вхідних каналів за допомогою різних тренованих ваг. Це також можна розглядати як зменшення розмірності (пулінг) за виміром каналів.
Ось хороший блог на цю тему, а також оригінальна стаття.
MobileNet
MobileNet — це сімейство моделей зі зменшеним розміром, які підходять для мобільних пристроїв. Використовуйте їх, якщо у вас обмежені ресурси і ви можете пожертвувати трохи точністю. Основна ідея цих моделей — так звана глибокосепарабельна згортка, яка дозволяє представляти фільтри згортки як композицію просторових згорток і згортки 1x1 за каналами глибини. Це значно зменшує кількість параметрів, роблячи мережу меншою за розміром, а також легшою для тренування з меншою кількістю даних.
Ось хороший блог про MobileNet.
Висновок
У цьому розділі ви дізналися основну концепцію нейронних мереж для комп’ютерного зору — згорткові мережі. Реальні архітектури, які забезпечують класифікацію зображень, виявлення об’єктів і навіть генерацію зображень, базуються на CNN, просто з більшою кількістю шарів і деякими додатковими трюками тренування.
🚀 Виклик
У супровідних блокнотах є примітки внизу про те, як досягти більшої точності. Проведіть експерименти, щоб побачити, чи зможете ви досягти вищої точності.
Тест після лекції
Огляд і самостійне навчання
Хоча CNN найчастіше використовуються для завдань комп’ютерного зору, вони загалом добре підходять для вилучення шаблонів фіксованого розміру. Наприклад, якщо ми працюємо зі звуками, ми також можемо використовувати CNN для пошуку певних шаблонів в аудіосигналі — у цьому випадку фільтри будуть одномірними (і така CNN називатиметься 1D-CNN). Також іноді використовується 3D-CNN для вилучення ознак у багатовимірному просторі, наприклад, певних подій, що відбуваються на відео — CNN може захоплювати певні шаблони змін ознак з часом. Проведіть огляд і самостійне навчання про інші завдання, які можна виконувати за допомогою CNN.
Завдання
У цій лабораторній роботі вам потрібно класифікувати різні породи котів і собак. Ці зображення є складнішими, ніж набір даних MNIST, мають більші розміри, і класів більше ніж 10.
Відмова від відповідальності:
Цей документ був перекладений за допомогою сервісу автоматичного перекладу Co-op Translator. Хоча ми прагнемо до точності, будь ласка, майте на увазі, що автоматичні переклади можуть містити помилки або неточності. Оригінальний документ на його рідній мові слід вважати авторитетним джерелом. Для критичної інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння або неправильні тлумачення, що виникли внаслідок використання цього перекладу.