15. diel - Neurónové siete – Krížová entropia

V minulej lekcii, Neurónové siete - K-fold a refaktoring , sme prebrali krížovú validáciu K-fold a refaktorovali sme našu triedu Neuron.

V tejto lekcii tutoriálu Neurónovej siete - Pokročilé preberieme stratové funkcie krížová entropia a binárna krížová entropia. V praxi sa tieto funkcie bežne označujú ako cross entropy a binary cross entropy, a preto budeme anglické názvy používať tiež.

Importy, ktoré budeme potrebovať sú:

import numpy as np
import matplotlib.pyplot as plt
import sklearn.datasets, sklearn.model_selection

Cross-entropy loss

Doteraz sme používali Mean-Squared error (MSE) loss funkciu. V tejto lekcii tutoriálu si ukážeme detailnejšie cross-entropy loss funkciu, ktorá je vhodnejšia pre klasifikačné problémy. MSE je preferovanou stratou, ak robíme regresiu (snažíme sa predpovedať reálne číslo), ale pre klasifikačnú úlohu, kedy by sme mali predpovedať, z ktorej triedy príklad pochádza, je krížová entropia oveľa lepšia. Prečo tomu tak je, si teraz vysvetlíme.

...koniec náhľadu článku...
Pokračuj ďalej