5d34bc4eb8
|
||
|---|---|---|
| .. | ||
| README.md | ||
README.md
Entrenamiento del Modelo Skip-Gram
Tarea del Currículo de IA para Principiantes.
Tarea
En este laboratorio, te desafiamos a entrenar un modelo Word2Vec utilizando la técnica Skip-Gram. Entrena una red con incrustaciones para predecir palabras vecinas en una ventana Skip-Gram de N tokens de ancho. Puedes usar el código de esta lección y modificarlo ligeramente.
El Conjunto de Datos
Puedes utilizar cualquier libro. Puedes encontrar muchos textos gratuitos en Project Gutenberg; por ejemplo, aquí tienes un enlace directo a Las Aventuras de Alicia en el País de las Maravillas de Lewis Carroll. O, puedes utilizar las obras de Shakespeare, que puedes obtener utilizando el siguiente código:
path_to_file = tf.keras.utils.get_file(
'shakespeare.txt',
'https://storage.googleapis.com/download.tensorflow.org/data/shakespeare.txt')
text = open(path_to_file, 'rb').read().decode(encoding='utf-8')
¡Explora!
Si tienes tiempo y quieres profundizar en el tema, intenta explorar varias cosas:
- ¿Cómo afecta el tamaño de la incrustación a los resultados?
- ¿Cómo afectan los diferentes estilos de texto al resultado?
- Toma varios tipos de palabras muy diferentes y sus sinónimos, obtén sus representaciones vectoriales, aplica PCA para reducir las dimensiones a 2 y plótalas en un espacio 2D. ¿Ves algún patrón?
Disclaimer: Este documento ha sido traducido utilizando servicios de traducción automática basados en inteligencia artificial. Aunque nos esforzamos por lograr precisión, tenga en cuenta que las traducciones automáticas pueden contener errores o inexactitudes. El documento original en su idioma nativo debe considerarse la fuente autorizada. Para información crítica, se recomienda una traducción profesional realizada por humanos. No somos responsables de ningún malentendido o mala interpretación que surja del uso de esta traducción.