La diferencia entre un ejercicio de regresión y uno de clasificación con Tensorflow

 Estaba revisando estos dos códigos:
The Hello World of Deep Learning
Beyond Hello World: A computer Vision Example

El tutorial no lo dice, al menos no con la claridad que yo desearía, pero el primero es un problema de regresión y el otro es un problema de clasificación.

En el caso de la regresión, Tensorflow predice un valor en función a una entrada. En el caso de un problema de clasificación, Tensorflow devuelve el índice con mayor probabilidad de corresponder a la etiqueta (o clasificación) de una entrada.

Ambos códigos son casi idénticos, voy a copiar debajo los que tengo en mi máquina y con los que he estado jugando:

Éste es el de regresión:

import tensorflow as tf

import numpy as np

from tensorflow import keras

# Build a simple Sequential model

model = tf.keras.Sequential([keras.layers.Dense(units=1, input_shape=[1])])

# Compile the model

model.compile(optimizer='sgd', loss='mean_squared_error')

 

# Declare model inputs and outputs for training

xs = np.array([-1.0,  0.0, 1.0, 2.0, 3.0, 4.0], dtype=float)

ys = np.array([-3.0, -1.0, 1.0, 3.0, 5.0, 7.0], dtype=float)

 

# Train the model

model.fit(xs, ys, epochs=100)

# Make a prediction

print(model.predict([10.0]))

 

Éste es el código del problema de clasificación:

import tensorflow as tf

import numpy as np

import matplotlib.pyplot as plt

 

 

# Load the training and test split of the Fashion MNIST dataset

(training_images, training_labels), (test_images, test_labels) = fmnist.load_data()

print(len(training_images))

print(len(test_images))

print(training_labels[0:10])

 

# You can put between 0 to 59999 here

index = 562

# Set number of characters per row when printing

np.set_printoptions(linewidth=128)

# Print the label and image

print(f'LABEL: {training_labels[index]}')

print(f'\nIMAGE PIXEL ARRAY:\n {training_images[index]}')

# Visualize the image

plt.imshow(training_images[index])

# Normalize the pixel values of the train and test images

training_images  = training_images / 255.0

test_images = test_images / 255.0

 

# Build the classification model

model = tf.keras.models.Sequential([tf.keras.layers.Flatten(),

                                    tf.keras.layers.Dense(256, activation=tf.nn.relu),

                                    tf.keras.layers.Dense(10, activation=tf.nn.softmax)])

 

model.compile(optimizer = tf.optimizers.Adam(),

              loss = 'sparse_categorical_crossentropy',

              metrics=['accuracy'])

model.fit(training_images, training_labels, epochs=15)

 

# Evaluate the model on unseen data

model.evaluate(test_images, test_labels)

Aparte de las diferencias al construir la red neuronal o al predecir o evaluar un valor, o la data que se está usando, la diferencia principal es la función de pérdida o Loss Function, ésta es la que define si la red neuronal que estamos construyendo se usará para clasificar o predecir. Durante el entrenamiento de la red, esta función mide cuánto se están acercando los valores calculador por la red a los valores verdaderos (usualmente usando el cuadrado de la diferencia entre ambos valores, pero hay funciones más complejas), esta información se usa en el siguiente bucle para ajustar los parámetros de la red y disminuir el valor de la función de pérdida. La red neuronal hace estos ajustes usando otra función, la de optimización, usualmente la del gradiente descendente. En el caso de las funciones cóncavas, cuando su gradiente se hace cero, se ha alcanzado el mínimo. Lo que hace la función de optimización es minimizar a la de pérdida usando este principio.

Una lista de distintas funciones de pérdida está en este enlace.