|
|
||
|---|---|---|
| .. | ||
| AutoEncodersPyTorch.ipynb | ||
| AutoencodersTF.ipynb | ||
| README.md | ||
README.md
рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕
рдЬреЗрд╡реНрд╣рд╛ CNNs рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджрд┐рд▓реЗ рдЬрд╛рддреЗ, рддреЗрд╡реНрд╣рд╛ рдПрдХ рд╕рдорд╕реНрдпрд╛ рдЕрд╢реА рдЕрд╕рддреЗ рдХреА рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рдЦреВрдк рд╕рд╛рд▒реНрдпрд╛ рд▓реЗрдмрд▓ рдХреЗрд▓реЗрд▓реНрдпрд╛ рдбреЗрдЯрд╛рдЪреА рдЧрд░рдЬ рдЕрд╕рддреЗ. рдкреНрд░рддрд┐рдореЗрдЪреНрдпрд╛ рд╡рд░реНрдЧреАрдХрд░рдгрд╛рдЪреНрдпрд╛ рдмрд╛рдмрддреАрдд, рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рдкреНрд░рддрд┐рдорд╛ рд╡реЗрдЧрд╡реЗрдЧрд│реНрдпрд╛ рд╡рд░реНрдЧрд╛рдВрдордзреНрдпреЗ рд╡рд┐рднрд╛рдЧрд╛рд╡реНрдпрд╛ рд▓рд╛рдЧрддрд╛рдд, рдЬреЗ рдПрдХ рдореЕрдиреНрдпреБрдЕрд▓ рдХрд╛рдо рдЖрд╣реЗ.
рдкреВрд░реНрд╡-рд╡реНрдпрд╛рдЦреНрдпрд╛рди рдХреНрд╡рд┐рдЭ
рддрдерд╛рдкрд┐, рдХрдзреАрдХрдзреА рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рдХрдЪреНрдЪрд╛ (рд▓реЗрдмрд▓ рдирд╕рд▓реЗрд▓рд╛) рдбреЗрдЯрд╛ CNN рдлреАрдЪрд░ рдПрдХреНрд╕реНрдЯреНрд░реЕрдХреНрдЯрд░реНрд╕рд╕рд╛рдареА рд╡рд╛рдкрд░рд╛рдпрдЪрд╛ рдЕрд╕рддреЛ, рдЬреНрдпрд╛рд▓рд╛ рд╕реНрд╡рдпрдВ-рдирд┐рдпрдВрддреНрд░рд┐рдд рд╢рд┐рдХреНрд╖рдг рдореНрд╣рдгрддрд╛рдд. рд▓реЗрдмрд▓реНрд╕рдЪреНрдпрд╛ рдРрд╡рдЬреА, рдЖрдкрдг рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдкреНрд░рддрд┐рдорд╛ рдиреЗрдЯрд╡рд░реНрдХрдЪреНрдпрд╛ рдЗрдирдкреБрдЯ рдЖрдгрд┐ рдЖрдЙрдЯрдкреБрдЯ рдореНрд╣рдгреВрди рд╡рд╛рдкрд░реВ. рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ рдпрд╛ рд╕рдВрдХрд▓реНрдкрдиреЗрдЪрд╛ рдореБрдЦреНрдп рдЙрджреНрджреЗрд╢ рдЕрд╕рд╛ рдЖрд╣реЗ рдХреА рдЖрдкрд▓реНрдпрд╛рдХрдбреЗ рдПрдХ рдПрдиреНрдХреЛрдбрд░ рдиреЗрдЯрд╡рд░реНрдХ рдЕрд╕реЗрд▓, рдЬреЗ рдЗрдирдкреБрдЯ рдкреНрд░рддрд┐рдореЗрд▓рд╛ рдХрд╛рд╣реА рд▓реЕрдЯреЗрдВрдЯ рд╕реНрдкреЗрд╕ рдордзреНрдпреЗ рд░реВрдкрд╛рдВрддрд░рд┐рдд рдХрд░реЗрд▓ (рд╕рд╛рдорд╛рдиреНрдпрддрдГ рд╣рд╛ рдХрд╛рд╣реА рд▓рд╣рд╛рди рдЖрдХрд╛рд░рд╛рдЪрд╛ рд╡реЗрдХреНрдЯрд░ рдЕрд╕рддреЛ), рдЖрдгрд┐ рдирдВрддрд░ рдбрд┐рдХреЛрдбрд░ рдиреЗрдЯрд╡рд░реНрдХ, рдЬреНрдпрд╛рдЪрд╛ рдЙрджреНрджреЗрд╢ рдореВрд│ рдкреНрд░рддрд┐рдорд╛ рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХрд░рдгреЗ рдЕрд╕реЗрд▓.
тЬЕ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ рдореНрд╣рдгрдЬреЗ "рдПрдХ рдкреНрд░рдХрд╛рд░рдЪреЗ рдХреГрддреНрд░рд┐рдо рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рдЬреЗ рд▓реЗрдмрд▓ рдирд╕рд▓реЗрд▓реНрдпрд╛ рдбреЗрдЯрд╛рдЪреЗ рдХрд╛рд░реНрдпрдХреНрд╖рдо рдХреЛрдбрд┐рдВрдЧ рд╢рд┐рдХрдгреНрдпрд╛рд╕рд╛рдареА рд╡рд╛рдкрд░рд▓реЗ рдЬрд╛рддреЗ."
рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░рд▓рд╛ рдореВрд│ рдкреНрд░рддрд┐рдореЗрддреАрд▓ рдЬрд╛рд╕реНрддреАрдд рдЬрд╛рд╕реНрдд рдорд╛рд╣рд┐рддреА рдЕрдЪреВрдХ рдкреБрдирд░реНрдирд┐рд░реНрдорд┐рддреАрд╕рд╛рдареА рдХреЕрдкреНрдЪрд░ рдХрд░рд╛рдпрдЪреА рдЕрд╕рд▓реНрдпрд╛рдиреЗ, рдиреЗрдЯрд╡рд░реНрдХ рдЗрдирдкреБрдЯ рдкреНрд░рддрд┐рдорд╛рдВрдЪреЗ рд╕рд░реНрд╡реЛрддреНрддрдо рдПрдореНрдмреЗрдбрд┐рдВрдЧ рд╢реЛрдзрдгреНрдпрд╛рдЪрд╛ рдкреНрд░рдпрддреНрди рдХрд░рддреЗ.
рдкреНрд░рддрд┐рдорд╛ Keras рдмреНрд▓реЙрдЧ рд╡рд░реВрди
рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рд╡рд╛рдкрд░рдгреНрдпрд╛рдЪреЗ рдкреНрд░рд╕рдВрдЧ
рдореВрд│ рдкреНрд░рддрд┐рдорд╛ рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХрд░рдгреЗ рд╕реНрд╡рддрдГрдордзреНрдпреЗ рдлрд╛рд░рд╕реЗ рдЙрдкрдпреБрдХреНрдд рд╡рд╛рдЯрдд рдирд╕рд▓реЗ рддрд░реА, рдХрд╛рд╣реА рдкреНрд░рд╕рдВрдЧрд╛рдВрдордзреНрдпреЗ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рд╡рд┐рд╢реЗрд╖рддрдГ рдЙрдкрдпреБрдХреНрдд рдард░рддрд╛рдд:
- рдкреНрд░рддрд┐рдорд╛рдВрдЪреЗ рдкрд░рд┐рдорд╛рдг рдХрдореА рдХрд░рдгреЗ рдХрд┐рдВрд╡рд╛ рдкреНрд░рддрд┐рдорд╛ рдПрдореНрдмреЗрдбрд┐рдВрдЧ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреЗрдгреЗ. рд╕рд╛рдорд╛рдиреНрдпрддрдГ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ PCA рдкреЗрдХреНрд╖рд╛ рдЪрд╛рдВрдЧрд▓реЗ рдкрд░рд┐рдгрд╛рдо рджреЗрддрд╛рдд, рдХрд╛рд░рдг рддреЗ рдкреНрд░рддрд┐рдорд╛рдВрдЪреНрдпрд╛ рд╕реНрдерд╛рдирд┐рдХ рд╕реНрд╡рд░реВрдкрд╛рдЪрд╛ рдЖрдгрд┐ рд╢реНрд░реЗрдгреАрдмрджреНрдз рд╡реИрд╢рд┐рд╖реНрдЯреНрдпрд╛рдВрдЪрд╛ рд╡рд┐рдЪрд╛рд░ рдХрд░рддрд╛рдд.
- рдбрд┐рдиреЙрдЗрдЬрд┐рдВрдЧ, рдореНрд╣рдгрдЬреЗрдЪ рдкреНрд░рддрд┐рдореЗрддреАрд▓ рдЖрд╡рд╛рдЬ рдХрд╛рдвреВрди рдЯрд╛рдХрдгреЗ. рдХрд╛рд░рдг рдЖрд╡рд╛рдЬрд╛рдд рдмрд▒реНрдпрд╛рдЪ рдирд┐рд░реБрдкрдпреЛрдЧреА рдорд╛рд╣рд┐рддреАрдЪрд╛ рд╕рдорд╛рд╡реЗрд╢ рдЕрд╕рддреЛ, рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ рддреНрдпрд╛рддреАрд▓ рд╕рд░реНрд╡ рдорд╛рд╣рд┐рддреА рд▓рд╣рд╛рди рд▓реЕрдЯреЗрдВрдЯ рд╕реНрдкреЗрд╕рдордзреНрдпреЗ рдмрд╕рд╡реВ рд╢рдХрдд рдирд╛рд╣реА, рддреНрдпрд╛рдореБрд│реЗ рддреЛ рдлрдХреНрдд рдорд╣рддреНрддреНрд╡рд╛рдЪрд╛ рднрд╛рдЧ рдХреЕрдкреНрдЪрд░ рдХрд░рддреЛ. рдбрд┐рдиреЙрдЗрдЬрд░реНрд╕ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреЗрддрд╛рдирд╛, рдЖрдкрдг рдореВрд│ рдкреНрд░рддрд┐рдорд╛рдВрдкрд╛рд╕реВрди рд╕реБрд░реБрд╡рд╛рдд рдХрд░рддреЛ рдЖрдгрд┐ рдХреГрддреНрд░рд┐рдорд░рд┐рддреНрдпрд╛ рдЖрд╡рд╛рдЬ рдЬреЛрдбрд▓реЗрд▓реНрдпрд╛ рдкреНрд░рддрд┐рдорд╛рдВрдЪрд╛ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ рдЗрдирдкреБрдЯ рдореНрд╣рдгреВрди рд╡рд╛рдкрд░ рдХрд░рддреЛ.
- рд╕реБрдкрд░-рд░рд┐рдЭреЛрд▓реНрдпреВрд╢рди, рдореНрд╣рдгрдЬреЗ рдкреНрд░рддрд┐рдореЗрдЪреЗ рд░рд┐рдЭреЛрд▓реНрдпреВрд╢рди рд╡рд╛рдврд╡рдгреЗ. рдЖрдкрдг рдЙрдЪреНрдЪ-рд░рд┐рдЭреЛрд▓реНрдпреВрд╢рди рдкреНрд░рддрд┐рдорд╛рдВрдкрд╛рд╕реВрди рд╕реБрд░реБрд╡рд╛рдд рдХрд░рддреЛ рдЖрдгрд┐ рдХрдореА рд░рд┐рдЭреЛрд▓реНрдпреВрд╢рди рдЕрд╕рд▓реЗрд▓реНрдпрд╛ рдкреНрд░рддрд┐рдореЗрд▓рд╛ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ рдЗрдирдкреБрдЯ рдореНрд╣рдгреВрди рд╡рд╛рдкрд░рддреЛ.
- рдЬрдирд░реЗрдЯрд┐рд╡реНрд╣ рдореЙрдбреЗрд▓реНрд╕. рдПрдХрджрд╛ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдЭрд╛рд▓реНрдпрд╛рд╡рд░, рдбрд┐рдХреЛрдбрд░ рднрд╛рдЧ рдпрд╛рджреГрдЪреНрдЫрд┐рдХ рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░рдкрд╛рд╕реВрди рдирд╡реАрди рд╡рд╕реНрддреВ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рд╡рд╛рдкрд░рд▓рд╛ рдЬрд╛рдК рд╢рдХрддреЛ.
рд╡реНрд╣реЗрд░рд┐рдПрд╢рдирд▓ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ (VAE)
рдкрд╛рд░рдВрдкрд░рд┐рдХ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рдЗрдирдкреБрдЯ рдбреЗрдЯрд╛рдЪреЗ рдкрд░рд┐рдорд╛рдг рдХрдореА рдХрд░рддрд╛рдд рдЖрдгрд┐ рдЗрдирдкреБрдЯ рдкреНрд░рддрд┐рдорд╛рдВрдЪреЗ рдорд╣рддреНрддреНрд╡рд╛рдЪреЗ рд╡реИрд╢рд┐рд╖реНрдЯреНрдп рд╢реЛрдзрддрд╛рдд. рддрдерд╛рдкрд┐, рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░ рдЕрдиреЗрдХрджрд╛ рдЕрд░реНрдердкреВрд░реНрдг рдирд╕рддрд╛рдд. рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, MNIST рдбреЗрдЯрд╛рд╕реЗрдЯ рдШреЗрддрд▓реНрдпрд╛рд╕, рд╡реЗрдЧрд╡реЗрдЧрд│реНрдпрд╛ рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░рд╢реА рд╕рдВрдмрдВрдзрд┐рдд рдЕрдВрдХ рд╢реЛрдзрдгреЗ рд╕реЛрдкреЗ рдирд╕рддреЗ, рдХрд╛рд░рдг рдЬрд╡рд│рдЪреЗ рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░ рдиреЗрд╣рдореАрдЪ рд╕рдорд╛рди рдЕрдВрдХ рджрд░реНрд╢рд╡рддреАрд▓ рдЕрд╕реЗ рдирд╛рд╣реА.
рджреБрд╕рд░реАрдХрдбреЗ, рдЬрдирд░реЗрдЯрд┐рд╡реНрд╣ рдореЙрдбреЗрд▓реНрд╕ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреЗрдгреНрдпрд╛рд╕рд╛рдареА рд▓реЕрдЯреЗрдВрдЯ рд╕реНрдкреЗрд╕рдЪреЗ рдХрд╛рд╣реАрд╕реЗ рд╕рдордЬ рдЕрд╕рдгреЗ рдЪрд╛рдВрдЧрд▓реЗ рдЕрд╕рддреЗ. рд╣реА рдХрд▓реНрдкрдирд╛ рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рд╡реНрд╣реЗрд░рд┐рдПрд╢рдирд▓ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ (VAE) рдХрдбреЗ рдШреЗрдКрди рдЬрд╛рддреЗ.
VAE рд╣рд╛ рдЕрд╕рд╛ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░ рдЖрд╣реЗ рдЬреЛ рд▓реЕрдЯреЗрдВрдЯ рдкреЕрд░рд╛рдореАрдЯрд░реНрд╕рдЪреЗ рд╕рд╛рдВрдЦреНрдпрд┐рдХреАрдп рд╡рд┐рддрд░рдг (рдЬреНрдпрд╛рд▓рд╛ рд▓реЕрдЯреЗрдВрдЯ рд╡рд┐рддрд░рдг рдореНрд╣рдгрддрд╛рдд) рдЕрдВрджрд╛рдЬ рд▓рд╛рд╡рд╛рдпрд▓рд╛ рд╢рд┐рдХрддреЛ. рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░ рд╕рд╛рдорд╛рдиреНрдпрддрдГ zmean рдЖрдгрд┐ zsigma (рджреЛрдиреНрд╣реА рдореНрд╣рдгрдЬреЗ рдХрд╛рд╣реА рдкрд░рд┐рдорд╛рдг d рдЪреЗ рд╡реЗрдХреНрдЯрд░) рд╕рд╣ рд╡рд┐рддрд░рд┐рдд рд╡реНрд╣рд╛рд╡реЗ рдЕрд╕реЗ рд╡рд╛рдЯреВ рд╢рдХрддреЗ. VAE рдордзреАрд▓ рдПрдиреНрдХреЛрдбрд░ рд╣реЗ рдкреЕрд░рд╛рдореАрдЯрд░реНрд╕ рдЕрдВрджрд╛рдЬ рд▓рд╛рд╡рд╛рдпрд▓рд╛ рд╢рд┐рдХрддреЛ, рдЖрдгрд┐ рдирдВрддрд░ рдбрд┐рдХреЛрдбрд░ рдпрд╛ рд╡рд┐рддрд░рдгрд╛рддреВрди рдПрдХ рдпрд╛рджреГрдЪреНрдЫрд┐рдХ рд╡реЗрдХреНрдЯрд░ рдШреЗрддреЛ рдЖрдгрд┐ рд╡рд╕реНрддреВ рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХрд░рддреЛ.
рд╕рд╛рд░рд╛рдВрд╢:
- рдЗрдирдкреБрдЯ рд╡реЗрдХреНрдЯрд░рдкрд╛рд╕реВрди, рдЖрдкрдг
z_meanрдЖрдгрд┐z_log_sigmaрдЕрдВрджрд╛рдЬ рд▓рд╛рд╡рддреЛ (рдереЗрдЯ рдорд╛рдирдХ рд╡рд┐рдЪрд▓рдирд╛рдЪрд╛ рдЕрдВрджрд╛рдЬ рд▓рд╛рд╡рдгреНрдпрд╛рдРрд╡рдЬреА, рдЖрдкрдг рддреНрдпрд╛рдЪрд╛ рд▓рдШреБрдЧрдгрдХ рдЕрдВрджрд╛рдЬ рд▓рд╛рд╡рддреЛ) - рдЖрдкрдг рд╡рд┐рддрд░рдг N(zmean,exp(zlog_sigma)) рдордзреВрди
sampleрдирд╛рд╡рд╛рдЪрд╛ рд╡реЗрдХреНрдЯрд░ рдирд┐рд╡рдбрддреЛ - рдбрд┐рдХреЛрдбрд░
sampleрд▓рд╛ рдЗрдирдкреБрдЯ рд╡реЗрдХреНрдЯрд░ рдореНрд╣рдгреВрди рд╡рд╛рдкрд░реВрди рдореВрд│ рдкреНрд░рддрд┐рдорд╛ рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рдЪрд╛ рдкреНрд░рдпрддреНрди рдХрд░рддреЛ
рдкреНрд░рддрд┐рдорд╛ рдпрд╛ рдмреНрд▓реЙрдЧ рдкреЛрд╕реНрдЯ рд╡рд░реВрди, рд▓реЗрдЦрдХ: рдЗрд╕рд╛рдХ рдбрд╛рдпрдХрдорди
рд╡реНрд╣реЗрд░рд┐рдПрд╢рдирд▓ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рдПрдХ рдЬрдЯрд┐рд▓ рд▓реЙрд╕ рдлрдВрдХреНрд╢рди рд╡рд╛рдкрд░рддрд╛рдд, рдЬреНрдпрд╛рдордзреНрдпреЗ рджреЛрди рднрд╛рдЧ рдЕрд╕рддрд╛рдд:
- рдкреБрдирд░реНрдирд┐рд░реНрдорд┐рддреА рд▓реЙрд╕ - рд╣реЗ рд▓реЙрд╕ рдлрдВрдХреНрд╢рди рджрд░реНрд╢рд╡рддреЗ рдХреА рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХреЗрд▓реЗрд▓реА рдкреНрд░рддрд┐рдорд╛ рд▓рдХреНрд╖реНрдпрд╛рдЪреНрдпрд╛ рдХрд┐рддреА рдЬрд╡рд│ рдЖрд╣реЗ (рд╣реЗ Mean Squared Error рдХрд┐рдВрд╡рд╛ MSE рдЕрд╕реВ рд╢рдХрддреЗ). рд╣реЗ рд╕рд╛рдорд╛рдиреНрдп рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕рдкреНрд░рдорд╛рдгреЗрдЪ рд▓реЙрд╕ рдлрдВрдХреНрд╢рди рдЖрд╣реЗ.
- KL рд▓реЙрд╕, рдЬреЗ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░рддреЗ рдХреА рд▓реЕрдЯреЗрдВрдЯ рд╡реНрд╣реЗрд░рд┐рдПрдмрд▓ рд╡рд┐рддрд░рдг рд╕рд╛рдорд╛рдиреНрдп рд╡рд┐рддрд░рдгрд╛рдЪреНрдпрд╛ рдЬрд╡рд│ рд░рд╛рд╣рддреЗ. рд╣реЗ рдХреБрд▓рдмреЕрдХ-рд▓рд┐рдмрд▓рд░ рдбрд╛рдпрд╡реНрд╣рд░реНрдЬрдиреНрд╕ рдпрд╛ рд╕рдВрдХрд▓реНрдкрдиреЗрд╡рд░ рдЖрдзрд╛рд░рд┐рдд рдЖрд╣реЗ - рджреЛрди рд╕рд╛рдВрдЦреНрдпрд┐рдХреАрдп рд╡рд┐рддрд░рдгреЗ рдХрд┐рддреА рд╕рдорд╛рди рдЖрд╣реЗрдд рд╣реЗ рдореЛрдЬрдгреНрдпрд╛рд╕рд╛рдареА рдПрдХ рдореЗрдЯреНрд░рд┐рдХ.
VAE рдЪреЗ рдПрдХ рдорд╣рддреНрддреНрд╡рд╛рдЪреЗ рдлрд╛рдпрджреЗ рдореНрд╣рдгрдЬреЗ рддреЗ рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рдирд╡реАрди рдкреНрд░рддрд┐рдорд╛ рддреБрд▓рдиреЗрдиреЗ рд╕реЛрдкреНрдпрд╛ рдкрджреНрдзрддреАрдиреЗ рддрдпрд╛рд░ рдХрд░реВ рджреЗрддрд╛рдд, рдХрд╛рд░рдг рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░ рдХрд╢рд╛ рд╡рд┐рддрд░рдгрд╛рддреВрди рдирд┐рд╡рдбрд╛рдпрдЪреЗ рдЖрд╣реЗрдд рд╣реЗ рдорд╛рд╣рд┐рдд рдЕрд╕рддреЗ. рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, рдЬрд░ рдЖрдкрдг MNIST рд╡рд░ 2D рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░рд╕рд╣ VAE рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХреЗрд▓реЗ, рддрд░ рдЖрдкрдг рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░рдЪреНрдпрд╛ рдШрдЯрдХрд╛рдВрдордзреНрдпреЗ рдмрджрд▓ рдХрд░реВрди рд╡реЗрдЧрд╡реЗрдЧрд│реЗ рдЕрдВрдХ рдорд┐рд│рд╡реВ рд╢рдХрддреЛ:
рдкреНрд░рддрд┐рдорд╛ рджрд┐рдорд┐рддреНрд░реА рд╕реЙрд╢реНрдирд┐рдХреЛрд╡реНрд╣ рдпрд╛рдВрдЪреНрдпрд╛рдХрдбреВрди
рд▓рдХреНрд╖рд╛рдд рдШреНрдпрд╛ рдХреА рдкреНрд░рддрд┐рдорд╛ рдПрдХрдореЗрдХрд╛рдВрдордзреНрдпреЗ рдХрд╢рд╛ рдорд┐рд╕рд│рддрд╛рдд, рдХрд╛рд░рдг рдЖрдкрдг рд▓реЕрдЯреЗрдВрдЯ рдкреЕрд░рд╛рдореАрдЯрд░ рд╕реНрдкреЗрд╕рдЪреНрдпрд╛ рд╡реЗрдЧрд╡реЗрдЧрд│реНрдпрд╛ рднрд╛рдЧрд╛рдВрдордзреВрди рд▓реЕрдЯреЗрдВрдЯ рд╡реЗрдХреНрдЯрд░ рдорд┐рд│рд╡рд╛рдпрд▓рд╛ рд╕реБрд░реБрд╡рд╛рдд рдХрд░рддреЛ. рдЖрдкрдг рдпрд╛ рд╕реНрдкреЗрд╕рд▓рд╛ 2D рдордзреНрдпреЗ рджреЗрдЦреАрд▓ рд╡реНрд╣рд┐рдЬреНрдпреБрдЕрд▓рд╛рдЗрдЭ рдХрд░реВ рд╢рдХрддреЛ:
рдкреНрд░рддрд┐рдорд╛ рджрд┐рдорд┐рддреНрд░реА рд╕реЙрд╢реНрдирд┐рдХреЛрд╡реНрд╣ рдпрд╛рдВрдЪреНрдпрд╛рдХрдбреВрди
тЬНя╕П рд╕рд░рд╛рд╡: рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕
рдпрд╛ рд╕рдВрдмрдВрдзрд┐рдд рдиреЛрдЯрдмреБрдХреНрд╕рдордзреНрдпреЗ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕рдмрджреНрджрд▓ рдЕрдзрд┐рдХ рдЬрд╛рдгреВрди рдШреНрдпрд╛:
- TensorFlow рдордзреНрдпреЗ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕
- PyTorch рдордзреНрдпреЗ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕
рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕рдЪреА рд╡реИрд╢рд┐рд╖реНрдЯреНрдпреЗ
- рдбреЗрдЯрд╛-рд╡рд┐рд╢рд┐рд╖реНрдЯ - рддреЗ рдлрдХреНрдд рддреНрдпрд╛рдЪ рдкреНрд░рдХрд╛рд░рдЪреНрдпрд╛ рдкреНрд░рддрд┐рдорд╛рдВрд╕реЛрдмрдд рдЪрд╛рдВрдЧрд▓реЗ рдХрд╛рд░реНрдп рдХрд░рддрд╛рдд рдЬреНрдпрд╛рд╡рд░ рддреНрдпрд╛рдВрдирд╛ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджрд┐рд▓реЗ рдЧреЗрд▓реЗ рдЖрд╣реЗ. рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, рдЬрд░ рдЖрдкрдг рдлреБрд▓рд╛рдВрд╡рд░ рд╕реБрдкрд░-рд░рд┐рдЭреЛрд▓реНрдпреВрд╢рди рдиреЗрдЯрд╡рд░реНрдХ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХреЗрд▓реЗ, рддрд░ рддреЗ рдкреЛрд░реНрдЯреНрд░реЗрдЯреНрд╕рд╡рд░ рдЪрд╛рдВрдЧрд▓реЗ рдХрд╛рд░реНрдп рдХрд░рдгрд╛рд░ рдирд╛рд╣реА. рдХрд╛рд░рдг рдиреЗрдЯрд╡рд░реНрдХ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдбреЗрдЯрд╛рд╕реЗрдЯрдордзреВрди рд╢рд┐рдХрд▓реЗрд▓реНрдпрд╛ рд╡реИрд╢рд┐рд╖реНрдЯреНрдпрд╛рдВрдордзреВрди рд╕реВрдХреНрд╖реНрдо рддрдкрд╢реАрд▓ рдШреЗрдКрди рдЙрдЪреНрдЪ рд░рд┐рдЭреЛрд▓реНрдпреВрд╢рди рдкреНрд░рддрд┐рдорд╛ рддрдпрд╛рд░ рдХрд░реВ рд╢рдХрддреЗ.
- рд▓реЙрд╕реА - рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХреЗрд▓реЗрд▓реА рдкреНрд░рддрд┐рдорд╛ рдореВрд│ рдкреНрд░рддрд┐рдореЗрд╕рд╛рд░рдЦреА рдирд╕рддреЗ. рд▓реЙрд╕рдЪреЗ рд╕реНрд╡рд░реВрдк рдкреНрд░рд╢рд┐рдХреНрд╖рдгрд╛рджрд░рдореНрдпрд╛рди рд╡рд╛рдкрд░рд▓реЗрд▓реНрдпрд╛ рд▓реЙрд╕ рдлрдВрдХреНрд╢рди рд╡рд░ рдЕрд╡рд▓рдВрдмреВрди рдЕрд╕рддреЗ.
- рд▓реЗрдмрд▓ рдирд╕рд▓реЗрд▓реНрдпрд╛ рдбреЗрдЯрд╛рд╡рд░ рдХрд╛рд░реНрдп рдХрд░рддреЗ
рд╡реНрдпрд╛рдЦреНрдпрд╛рдирд╛рдирдВрддрд░рдЪрд╛ рдХреНрд╡рд┐рдЭ
рдирд┐рд╖реНрдХрд░реНрд╖
рдпрд╛ рдзрдбреНрдпрд╛рдд, рддреБрдореНрд╣реА AI рд╡реИрдЬреНрдЮрд╛рдирд┐рдХрд╛рдВрд╕рд╛рдареА рдЙрдкрд▓рдмреНрдз рдЕрд╕рд▓реЗрд▓реНрдпрд╛ рд╡рд┐рд╡рд┐рдз рдкреНрд░рдХрд╛рд░рдЪреНрдпрд╛ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕рдмрджреНрджрд▓ рд╢рд┐рдХрд▓рд╛. рддреБрдореНрд╣реА рддреНрдпрд╛рдВрдирд╛ рдХрд╕реЗ рддрдпрд╛рд░ рдХрд░рд╛рдпрдЪреЗ рдЖрдгрд┐ рдкреНрд░рддрд┐рдорд╛ рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рддреНрдпрд╛рдВрдЪрд╛ рдХрд╕рд╛ рд╡рд╛рдкрд░ рдХрд░рд╛рдпрдЪрд╛ рд╣реЗ рд╢рд┐рдХрд▓рд╛. рддреБрдореНрд╣реА VAE рдмрджреНрджрд▓рд╣реА рд╢рд┐рдХрд▓рд╛ рдЖрдгрд┐ рдирд╡реАрди рдкреНрд░рддрд┐рдорд╛ рддрдпрд╛рд░ рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рддреНрдпрд╛рдЪрд╛ рдХрд╕рд╛ рд╡рд╛рдкрд░ рдХрд░рд╛рдпрдЪрд╛ рд╣реЗ рд╕рдордЬрд▓реЗ.
ЁЯЪА рдЖрд╡реНрд╣рд╛рди
рдпрд╛ рдзрдбреНрдпрд╛рдд, рддреБрдореНрд╣реА рдкреНрд░рддрд┐рдорд╛рдВрд╕рд╛рдареА рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рд╡рд╛рдкрд░рдгреНрдпрд╛рдмрджреНрджрд▓ рд╢рд┐рдХрд▓рд╛. рдкрдг рддреЗ рд╕рдВрдЧреАрддрд╛рд╕рд╛рдареАрд╣реА рд╡рд╛рдкрд░рд▓реЗ рдЬрд╛рдК рд╢рдХрддрд╛рдд! Magenta рдкреНрд░рдХрд▓реНрдкрд╛рдЪрд╛ MusicVAE рдкреНрд░рдХрд▓реНрдк рддрдкрд╛рд╕рд╛, рдЬреЛ рд╕рдВрдЧреАрдд рдкреБрдиреНрд╣рд╛ рддрдпрд╛рд░ рдХрд░рд╛рдпрд▓рд╛ рд╢рд┐рдХрдгреНрдпрд╛рд╕рд╛рдареА рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рд╡рд╛рдкрд░рддреЛ. рдпрд╛ рд▓рд╛рдпрдмреНрд░рд░реАрд╕рд╣ рдХрд╛рд╣реА рдкреНрд░рдпреЛрдЧ рдХрд░рд╛ рдЖрдгрд┐ рддреБрдореНрд╣реА рдХрд╛рдп рддрдпрд╛рд░ рдХрд░реВ рд╢рдХрддрд╛ рддреЗ рдкрд╛рд╣рд╛.
рд╡реНрдпрд╛рдЦреНрдпрд╛рдирд╛рдирдВрддрд░рдЪрд╛ рдХреНрд╡рд┐рдЭ
рдкреБрдирд░рд╛рд╡рд▓реЛрдХрди рдЖрдгрд┐ рд╕реНрд╡-рдЕрднреНрдпрд╛рд╕
рд╕рдВрджрд░реНрднрд╛рд╕рд╛рдареА, рдпрд╛ рд╕реНрд░реЛрддрд╛рдВрдордзреНрдпреЗ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕рдмрджреНрджрд▓ рдЕрдзрд┐рдХ рд╡рд╛рдЪрд╛:
- Keras рдордзреНрдпреЗ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рддрдпрд╛рд░ рдХрд░рдгреЗ
- NeuroHive рд╡рд░реАрд▓ рдмреНрд▓реЙрдЧ рдкреЛрд╕реНрдЯ
- рд╡реНрд╣реЗрд░рд┐рдПрд╢рдирд▓ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕ рд╕рдордЬрд╛рд╡реВрди рд╕рд╛рдВрдЧрд┐рддрд▓реЗ
- рдХрдВрдбрд┐рд╢рдирд▓ рд╡реНрд╣реЗрд░рд┐рдПрд╢рдирд▓ рдСрдЯреЛрдПрдиреНрдХреЛрдбрд░реНрд╕
рдЕрд╕рд╛рдЗрдирдореЗрдВрдЯ
TensorFlow рд╡рд╛рдкрд░реВрди рдпрд╛ рдиреЛрдЯрдмреБрдХрдЪреНрдпрд╛ рд╢реЗрд╡рдЯреА рддреБрдореНрд╣рд╛рд▓рд╛ рдПрдХ 'рдЯрд╛рд╕реНрдХ' рд╕рд╛рдкрдбреЗрд▓ - рдпрд╛рдЪрд╛ рддреБрдордЪреНрдпрд╛ рдЕрд╕рд╛рдЗрдирдореЗрдВрдЯрд╕рд╛рдареА рд╡рд╛рдкрд░ рдХрд░рд╛.
рдЕрд╕реНрд╡реАрдХрд░рдг:
рд╣рд╛ рджрд╕реНрддрдРрд╡рдЬ AI рднрд╛рд╖рд╛рдВрддрд░ рд╕реЗрд╡рд╛ Co-op Translator рдЪрд╛ рд╡рд╛рдкрд░ рдХрд░реВрди рднрд╛рд╖рд╛рдВрддрд░рд┐рдд рдХрд░рдгреНрдпрд╛рдд рдЖрд▓рд╛ рдЖрд╣реЗ. рдЖрдореНрд╣реА рдЕрдЪреВрдХрддреЗрд╕рд╛рдареА рдкреНрд░рдпрддреНрдирд╢реАрд▓ рдЕрд╕рд▓реЛ рддрд░реА, рдХреГрдкрдпрд╛ рд▓рдХреНрд╖рд╛рдд рдШреНрдпрд╛ рдХреА рд╕реНрд╡рдпрдВрдЪрд▓рд┐рдд рднрд╛рд╖рд╛рдВрддрд░рд╛рдВрдордзреНрдпреЗ рддреНрд░реБрдЯреА рдХрд┐рдВрд╡рд╛ рдЕрдЪреВрдХрддреЗрдЪрд╛ рдЕрднрд╛рд╡ рдЕрд╕реВ рд╢рдХрддреЛ. рдореВрд│ рднрд╛рд╖реЗрддреАрд▓ рджрд╕реНрддрдРрд╡рдЬ рд╣рд╛ рдЕрдзрд┐рдХреГрдд рд╕реНрд░реЛрдд рдорд╛рдирд▓рд╛ рдЬрд╛рд╡рд╛. рдорд╣рддреНрддреНрд╡рд╛рдЪреНрдпрд╛ рдорд╛рд╣рд┐рддреАрд╕рд╛рдареА рд╡реНрдпрд╛рд╡рд╕рд╛рдпрд┐рдХ рдорд╛рдирд╡реА рднрд╛рд╖рд╛рдВрддрд░рд╛рдЪреА рд╢рд┐рдлрд╛рд░рд╕ рдХреЗрд▓реА рдЬрд╛рддреЗ. рдпрд╛ рднрд╛рд╖рд╛рдВрддрд░рд╛рдЪрд╛ рд╡рд╛рдкрд░ рдХреЗрд▓реНрдпрд╛рдореБрд│реЗ рдЙрджреНрднрд╡рдгрд╛рд▒реНрдпрд╛ рдХреЛрдгрддреНрдпрд╛рд╣реА рдЧреИрд░рд╕рдордЬ рдХрд┐рдВрд╡рд╛ рдЪреБрдХреАрдЪреНрдпрд╛ рдЕрд░реНрдерд╛рд╕рд╛рдареА рдЖрдореНрд╣реА рдЬрдмрд╛рдмрджрд╛рд░ рд░рд╛рд╣рдгрд╛рд░ рдирд╛рд╣реА.
