utec::neural_network::SGD< T > Class Template Reference

Optimizador Stochastic Gradient Descent (SGD). Actualiza los parámetros en dirección opuesta al gradiente multiplicado por el learning rate. More...

#include <optimizer.h>

Inheritance diagram for utec::neural_network::SGD< T >:

Collaboration diagram for utec::neural_network::SGD< T >:

Public Member Functions
	SGD (T learning_rate=0.01)
	Constructor del optimizador.
void	update (algebra::Tensor< T, 2 > &params, const algebra::Tensor< T, 2 > &grads) override
	Actualiza los parámetros en función del gradiente.
Public Member Functions inherited from utec::neural_network::IOptimizer< T >
virtual	~IOptimizer ()=default
	Destructor virtual.
virtual void	step ()
	Avanza el estado interno del optimizador si este lo permite. Sólo aplica a aquellos optimizadores que llevan estados (ej. Adam). Para otros (ej. SGD), no hace nada.

Detailed Description

template<typename T>
class utec::neural_network::SGD< T >

Optimizador Stochastic Gradient Descent (SGD). Actualiza los parámetros en dirección opuesta al gradiente multiplicado por el learning rate.

Template Parameters

T	Tipo de dato (usualmente float o double).

Constructor & Destructor Documentation

SGD()

template<typename T>

utec::neural_network::SGD< T >::SGD ( T learning_rate = 0.01 )

inlineexplicit

Constructor del optimizador.

Parameters

learning_rate

Valor de la tasa de aprendizaje (por defecto 0.01). @complexity O(1).

Member Function Documentation

update()

template<typename T>

void utec::neural_network::SGD< T >::update ( algebra::Tensor< T, 2 > & params, const algebra::Tensor< T, 2 > & grads )

inlineoverridevirtual

Actualiza los parámetros en función del gradiente.

Parameters

params	Parámetros actuales del modelo.
grads	Gradientes calculados. @complexity O(n*m), donde n*m es el tamaño del tensor de parámetros.

Implements utec::neural_network::IOptimizer< T >.

---

The documentation for this class was generated from the following file:

• include/utec/nn/optimizer.h