AI-For-Beginners/translations/fi/lessons/3-NeuralNetworks/03-Perceptron

Johdanto neuroverkkoihin: Perceptron

Ennakkokysely

Yksi ensimmäisistä yrityksistä toteuttaa jotain modernin neuroverkon kaltaista tehtiin Frank Rosenblattin toimesta Cornellin ilmailulaboratoriossa vuonna 1957. Kyseessä oli laitteistototeutus nimeltä "Mark-1", joka oli suunniteltu tunnistamaan yksinkertaisia geometrisia kuvioita, kuten kolmioita, neliöitä ja ympyröitä.

Kuvat Wikipedia-sivustolta

Syötekuva esitettiin 20x20 valokennon matriisina, joten neuroverkolla oli 400 syötettä ja yksi binäärinen ulostulo. Yksinkertainen verkko sisälsi yhden neuronin, jota kutsutaan myös kynnyslogiikkayksiköksi. Neuroverkon painot toimivat kuin potentiometrit, joita piti säätää manuaalisesti koulutusvaiheen aikana.

✅ Potentiometri on laite, joka mahdollistaa piirin vastuksen säätämisen.

The New York Times kirjoitti tuolloin perceptronista: sähkötietokoneen alkio, jonka [laivasto] odottaa pystyvän kävelemään, puhumaan, näkemään, kirjoittamaan, lisääntymään ja olemaan tietoinen olemassaolostaan.

Perceptron-malli

Oletetaan, että mallissamme on N ominaisuutta, jolloin syötevektori olisi kooltaan N. Perceptron on binääriluokittelumalli, eli se pystyy erottamaan kahden syötedataluokan välillä. Oletamme, että jokaiselle syötevektorille x perceptronin ulostulo olisi joko +1 tai -1 riippuen luokasta. Ulostulo lasketaan kaavalla:

y(x) = f(w^Tx)

missä f on askelaktivointifunktio

Perceptronin kouluttaminen

Perceptronin kouluttamiseksi meidän täytyy löytää painovektori w, joka luokittelee suurimman osan arvoista oikein, eli tuottaa pienimmän virheen. Tämä virhe E määritellään perceptron-kriteerin avulla seuraavasti:

E(w) = -∑w^Tx_it_i

missä:

• summa otetaan niistä koulutusdatapisteistä i, jotka johtavat väärään luokitteluun
• x_i on syötedata, ja t_i on joko -1 tai +1 negatiivisille ja positiivisille esimerkeille vastaavasti.

Tätä kriteeriä pidetään painojen w funktiona, ja meidän täytyy minimoida se. Usein käytetään menetelmää nimeltä gradienttimenetelmä, jossa aloitetaan jollain alkuperäisillä painoilla w⁽⁰⁾, ja sitten jokaisessa vaiheessa päivitetään painot kaavan mukaan:

w^(t+1) = w^(t) - η∇E(w)

Tässä η on niin sanottu oppimisnopeus, ja ∇E(w) tarkoittaa E:n gradienttia. Kun laskemme gradientin, päädymme seuraavaan:

w^(t+1) = w^(t) + ∑ηx_it_i

Algoritmi Pythonissa näyttää tältä:

def train(positive_examples, negative_examples, num_iterations = 100, eta = 1):

    weights = [0,0,0] # Initialize weights (almost randomly :)
        
    for i in range(num_iterations):
        pos = random.choice(positive_examples)
        neg = random.choice(negative_examples)

        z = np.dot(pos, weights) # compute perceptron output
        if z < 0: # positive example classified as negative
            weights = weights + eta*weights.shape

        z  = np.dot(neg, weights)
        if z >= 0: # negative example classified as positive
            weights = weights - eta*weights.shape

    return weights

Yhteenveto

Tässä oppitunnissa opit perceptronista, joka on binääriluokittelumalli, ja kuinka sitä koulutetaan käyttämällä painovektoria.

🚀 Haaste

Jos haluat kokeilla rakentaa oman perceptronin, kokeile tätä Microsoft Learn -laboratoriota, joka käyttää Azure ML designeria.

Jälkikysely

Kertaus ja itseopiskelu

Jos haluat nähdä, kuinka perceptronia voidaan käyttää leikkimielisen ongelman ratkaisemiseen sekä todellisiin ongelmiin, ja jatkaa oppimista - siirry Perceptron-muistikirjaan.

Tässä on myös mielenkiintoinen artikkeli perceptroneista.

Tehtävä

Tässä oppitunnissa toteutimme perceptronin binääriluokittelutehtävää varten, ja käytimme sitä kahden käsinkirjoitetun numeron luokitteluun. Tässä laboratoriossa sinua pyydetään ratkaisemaan numeroluokittelun ongelma kokonaisuudessaan, eli määrittämään, mikä numero todennäköisimmin vastaa annettua kuvaa.

• Ohjeet
• Muistikirja

---