У чым розніца паміж autoencoder і доўгатэрміновай кароткатэрміновай памяццю ў глыбокім навучанні?


адказ 1:

Асноўнае адрозненне гэтых двух тыпаў нейронных сетак заключаецца ў тым, што аўта-кадыроўшчык з'яўляецца аўтаматычным тыпам NN, а LSTM - гэта маніторынг тыпу NN (прынамсі, для тэрмінаў, з якімі я сутыкнуўся ў сваім вопыце :)).

Яшчэ адно адрозненне заключаецца ў тыпе задач, якія яны выкарыстоўваюцца.

Як правіла, автокодировщики выкарыстоўваюцца для памяншэння шуму дадзеных або яго памеру. Я асабіста так шмат не выкарыстоўваў.

LSTM, з іншага боку, мае галоўную перавагу ў тым, што ў яго ёсць "унутраная памяць", што добра для рэгрэсіўных рашэнняў, калі вам трэба атрымаць выснову "ў рэжыме рэальнага часу", але з улікам некаторых гістарычных дадзеных з "нядаўняга" мінулага.

бр


адказ 2:

Я не ведаю дастаткова пра LSTM, каб даць карысны адказ. Можа, гэта можа дапамагчы:

Зразумець сеткі LSTM

Мала што я ведаю пра аўта-кадэр гэта: мы спрашчаем сетку так, каб яна мела як мага меншую колькасць нейронаў у прамежкавых пластах і адначасова можа прайграваць уваход з выхадаў гэтых прамежкавых слаёў.

Гэта гучыць як сціск сутнасці не толькі ўваходаў, але і таго, што іх адрознівае.