През последните години дълбокото обучение промени полето на компютърното зрение, позволявайки на компютрите да възприемат и разгадават визуална информация на необичайни нива. Играта на конволюционните невронни мрежи (CNN) имаше решаващо въздействие върху тази промяна, с няколко новаторски дизайна, водещи пътя. Две от най-влиятелните структури на CNN са AlexNet и GoogleNet (InceptionNet). Двата модела като цяло са допринесли за прогресирането на задачите за класификация на изображения, но въпреки това те контрастират в своите структури и принципи на проектиране. В тази статия ще се потопим в критичните разлики между AlexNet и GoogleNet, изследвайки техните структури, дизайнерски решения и изпълнение.

Основни разлики между AlexNet и GoogleNet

Какво е AlexNet?

AlexNet е забележителна архитектура на конволюционна невронна мрежа (CNN), създадена от Алекс Крижевски, Иля Суцкевер и Джефри Хинтън. Той беше въведен през 2012 г. и постигна критичен напредък в ImageNet Large Scope Visual Recognition Challenge (ILSVRC), като по същество надмина различни методологии. AlexNet беше основният CNN, който показа жизнеспособността на дълбокото обучение за задачи за подреждане на изображения, обозначавайки определящ момент в областта на компютърното зрение.

1. Архитектура

Пуснат през 2012 г., AlexNet беше лидер на CNN, който спечели ImageNet Large Scope Visual Recognition Challenge (ILSVRC) с критично място за грешки. Състои се от пет конволюционни слоя, последвани от три напълно свързани слоя. Използването на ReLU (Redressed Direct Unit) задействане и стандартизация на реакцията на съседство (LRN) допринесе за неговия просперитет. AlexNet допълнително представи идеята за включване на графични процесори в подготовката, което ускори напълно нарастващия опит.

2. Мрежова дълбочина:

С осем слоя (пет конволюционни и три напълно свързани слоя), AlexNet се разглежда като дълбок в часа на представянето му. Независимо от това, за разлика от настоящите дизайни, той като цяло е плитък, ограничавайки капацитета му да улавя умопомрачителни елементи и примери в изключително сложни набори от данни.

3. Изчислителна производителност:

Докато презентацията на AlexNet за подготовката на GPU ускори образователния опит, тя все още беше скъпа от изчислителна гледна точка поради своите по-дълбоки напълно свързани слоеве и ограниченото използване на паралелизиране.

4. Прекомерно оборудване:

Поради своя умерено плитък дизайн и огромен брой граници, AlexNet беше по-склонен да пренастройва, особено при по-скромни набори от данни. Стратегии като отпадане впоследствие бяха запознати, за да модерират този проблем.

5. Обучение:

За да обучат AlexNet, създателите са използвали набора от данни ImageNet, който съдържа повече от 1 000 000 именувани изображения от 1000 класификации. Те използваха стохастичен спад на ъгъла (SGD) с енергия като изчисление за подобрение. По време на обучението бяха приложени методи за разширяване на информацията, като произволно редактиране и обръщане, за да се разшири размерът на обучителния набор от данни и да се развие допълнително обобщаването.

Системата за обучение беше изчислено поискана и използването на GPU от AlexNet за еднаква работа в крайна сметка се оказа от съществено значение. Обучението на AlexNet на двойна GPU рамка изискваше около седем дни, което беше критично подобрение в контраст с обичайните времена за обучение, базирани на компютърен процесор.

6. Резултати:

В съперничеството ImageNet 2012, AlexNet постигна забележително темпо на топ 5 грешки от около 15,3%, побеждавайки смазващо различни методологии.

Резултатът от AlexNet започна вълна от интерес към дълбокото обучение и CNN, което доведе до промяна в концентрацията на локалната област на компютърното зрение към допълнителни сложни и по-дълбоки невронни мрежи.

мисия невъзможна всички филми

7. Конволюционна настройка на слоя:

Конволюционните слоеве в AlexNet са организирани в основна последователност, с периодични слоеве за максимално обединяване за намаляване на дискретизацията. Това ясно инженерство беше важно в този момент, но въпреки това ограничи капацитета на организацията да улавя сложни прогресивни елементи.

8. Намаляване на размерността:

AlexNet включва слоеве с максимално обединяване за намаляване на дискретизацията, намалявайки пространствените компоненти на картите на елементите. Това помага за намаляване на изчислителното тегло и контролиране на пренастройването.

9. Размер и сложност на модела:

Докато AlexNet се смяташе за дълбок в този момент, той е малко по-скромен и по-малко сложен в контраст с по-късните дизайни. Тази прямота го направи по-очевиден и осъществим.

10. Използване на помощни класификатори:

За да разреши проблема с ъглите на изпаряване по време на подготовката, AlexNet представи идеята за помощни класификатори. Тези допълнителни класификатори бяха присъединени към умерени слоеве и дадоха ъглови знаци на предишните слоеве по време на обратното разпространение.

11. Въздействие върху посоката на изследването:

Резултатът от AlexNet означава огромна промяна в полето на компютърната визия. Това подтикна учените да изследват способността за задълбочено учене за различни задачи, свързани с картина, което подтикна бързото подобряване на допълнително развитите дизайни на CNN.

Какво е GoogleNet?

GoogleNet, иначе наричана Inception v1, е архитектура на CNN, създадена от групата Google Brain, особено от Christian Szegedy, Wei Liu и други. Той беше представен през 2014 г. и спечели ILSVRC с допълнително развита прецизност и изчислителна производителност. Архитектурата на GoogleNet се описва от неговия дълбок дизайн, който се състои от 22 слоя, което го прави една от първите „изключително дълбоки“ CNN.

1. Архитектура

GoogleNet (Inception v1): Представен през 2014 г., GoogleNet е от съществено значение за Inception групата на CNN. Известен е със своя дълбок дизайн, включващ 22 слоя (начални модули). Жизненоважната разработка на GoogleNet е началният модул, който разглежда еднакви навивки на различни размери на канали вътре в подобен слой. Това намали сложността на изчисленията, като същевременно поддържа прецизността, правейки GoogleNet по-ефективен от AlexNet.

2. Мрежова дълбочина:

Първоначалните модули на GoogleNet се считат за значително по-задълбочен дизайн без разширяване на изчислителните разходи. С 22 слоя GoogleNet беше една от основните CNN, които показаха предимствата на разширената дълбочина на мрежата, подтиквайки допълнително развита точност и мощност.

3. Изчислителна производителност:

Началните модули в GoogleNet се считат за по-продуктивно използване на изчислителни активи. Чрез използване на равни навивки във всеки начален блок, GoogleNet намали броя на границите и изчисленията, което го направи по-постижимо за непрекъснати приложения и предаване на джаджи, изискващи активи.

4. Прекомерно оборудване:

Дълбокият, но ефективен дизайн на GoogleNet по същество намалява прекомерното оборудване, позволявайки му да работи по-добре при по-скромни набори от данни и да премества учебни ситуации.

5. Обучение:

Обучението на GoogleNet допълнително разработва използването на набора от данни ImageNet и сравними процедури за увеличаване на информацията бяха използвани за надграждане на обобщението. Както и да е, поради по-дълбоката си архитектура GoogleNet изискваше повече изчислителни активи от AlexNet по време на обучението.

Разработването на началните модули позволи на GoogleNet да намери някакъв вид хармония между дълбочината и изчислителната ефективност. Еднаквите навивки вътре във всеки начален блок намаляват общо броя на изчисленията и границите, правейки обучението по-постижимо и ефективно.

6. Резултати:

GoogleNet постигна страхотно темпо на топ 5 грешки от около 6,67% в състезанието ImageNet 2014, надминавайки представянето на AlexNet.

Дълбоката, но опитна архитектура на GoogleNet показа способността на по-дълбоки невронни мрежи, като същевременно поддържаше изчислителната постижимост, правейки я по-ангажираща за истински приложения.

7. Конволюционна настройка на слоя:

GoogleNet представи идеята за начални модули, които се състоят от многобройни еднакви конволюционни слоеве с различни размери на канала. Този план позволява на GoogleNet да улавя акценти в различни мащаби и като цяло работи върху капацитета на организацията да премахва значими елементи от различни степени на обмисляне.

8. Намаляване на размерността:

независимо от обичайното максимално обединяване, GoogleNet използва методи за намаляване на размерността като навивки 1x1. Тези по-скромни конволюции са по-малко ескалирани от изчислителна гледна точка и помагат за намаляване на броя на елементите, като същевременно защитават фундаменталните данни.

9. Размер и сложност на модела:

Произходните модули на GoogleNet осигуряват по-задълбочен дизайн с фундаментално повече слоеве и граници. Тази сложност, въпреки че предлага допълнително развита прецизност, може също така да направи организацията по-изпитателна за подготовка и калибриране.

10. Използване на помощни класификатори:

GoogleNet усъвършенства идеята за помощни класификатори, като ги включи в началните модули. Тези помощни класификатори ускоряват подготовката на по-дълбоки слоеве и надграждат ъгловия поток, добавяйки към по-стабилна и ефективна подготовка.

11. Въздействие върху посоката на изследването:

Първоначалните модули на GoogleNet представиха възможността за ефективно извличане на компоненти в различни мащаби. Тази идея повлия на плана за произтичащи дизайни, давайки възможност на анализаторите да се фокусират върху напредъка в организационната дълбочина и изчислителната производителност, като същевременно поддържат или по-нататъшно развиват прецизността.

Заключение

Както AlexNet, така и GoogleNet оказват трайно влияние върху областта на компютърното зрение и дълбокото обучение. AlexNet показа способността на CNN за задачи за разпознаване на изображения и се подготви за бъдещи прогресии. След това отново GoogleNet представи идеята за модули за произход, което ги прави готови за по-ефективни и по-дълбоки структури на CNN.

връщане на масив java

Въпреки че AlexNet и GoogleNet имат своите специални предимства, областта на дълбокото обучение се разви фундаментално след техните презентации. Днешните дизайни, като ResNet, DenseNet и EfficientNet, допълнително разшириха границите на точност, производителност и обобщение. Тъй като анализаторите продължават да подобряват и разширяват тези основни модели, съдбата на компютърното зрение крие значително по-забележителен ангажимент и допълнителни интригуващи перспективи.