K:
Miksi "tiedon pullonkaula" on tärkeä teoria syvässä oppimisessa?
V:Ajatus "tieto pullonkaulasta" keinotekoisissa hermoverkoissa (ANNs) toimii erityisellä periaatteella, joka liittyy erityyppisten signalointien leviämiseen. Sitä pidetään käytännöllisenä välineenä kompromissien tutkimiseksi, jotka tekevät näistä keinoälyn järjestelmistä itsensä optimoimaan. Langallinen artikkeli, joka kuvaa Tishby et. ai. puhuu "meluisien tulotietojen poistamisesta ulkopuolisista yksityiskohdista ikään kuin puristamalla tiedot pullonkaulan läpi" ja "säilyttämällä vain yleisten käsitteiden kannalta merkityksellisimmät ominaisuudet".
Suhteellisen uudena käsitteenä tiedon pullonkaulaidea voi auttaa parantamaan ja muuttamaan tapaa, jolla käytämme ANNS: ää ja siihen liittyviä järjestelmiä kognitiivisen toiminnan mallintamiseen. Yksi tapa, jolla tämä teoria voi auttaa, on auttaa meitä ymmärtämään paremmin parametreja, jotka tukevat hermoverkkojen toimintoja. Esimerkiksi, jos periaate kuvaa, kuinka järjestelmä vain tietyn ominaisuusjoukon pidättää, alamme nähdä, kuinka tämä ”tietosyrjintä” tekee verkosta “apina” ihmisen aivot, ja insinöörit voivat lisätä sen hermoverkkomalleihin. Ajatuksena on, että hermostoverkkotekniikasta tulee lopulta enemmän "universaalia" konseptia, ei vain etuoikeutettujen maakunnan maakuntaa. Tällä hetkellä yritykset etsivät niukkoja AI-kykyjä; Teoriat, kuten informaation pullonkaula-teoria, voivat auttaa levittämään tietoa hermostoverkoista maallikolle ja "keskikokoisille käyttäjille" - niille, jotka eivät ehkä ole "asiantuntijoita", mutta voivat auttaa hermoverkkoteknologioiden syntymisessä ja leviämisessä.
Toinen tärkeä tieto pullonkaulan arvo on, että insinöörit voivat alkaa kouluttaa järjestelmiä toimimaan tarkemmin. Jotkut järjestelmän arkkitehtuurin ylimmän tason suuntaviivat voivat virtaviivaistaa tämäntyyppisten tekniikoiden kehitystä, ja siksi syventävämpi ajatus syvän oppimisen periaatteista on arvokasta IT-maailmassa.
Yleisesti ottaen AI: n parissa työskentelevä eturintamassa tarkastellaan edelleen erityisesti hermoverkkojen toimintaa, mukaan lukien ajatus "merkityksellisestä tiedosta" ja kuinka järjestelmät syrjivät toimintojen suorittamista. Yksi esimerkki on kuvan- tai puheprosessoinnissa, jossa järjestelmien on opittava tunnistamaan monia muunnelmia "objekteiksi". Yleensä informaation pullonkaula osoittaa erityisen kuvan siitä, kuinka hermoverkko toimisi näiden kohteiden kanssa, ja erityisesti kuinka nämä datamallit prosessoida tietoja.
