|
|
||
|---|---|---|
| .. | ||
| lab | ||
| NER-TF.ipynb | ||
| README.md | ||
README.md
рдирд╛рдорд┐рдд рдЗрдХрд╛рдИ рдкрд╣рд┐рдЪрд╛рди
рдЕрд╣рд┐рд▓реЗрд╕рдореНрдо, рд╣рд╛рдореА рдкреНрд░рд╛рдпрдГ рдПрдХ NLP рдХрд╛рд░реНрдп - рд╡рд░реНрдЧреАрдХрд░рдгрдорд╛ рдХреЗрдиреНрджреНрд░рд┐рдд рднрдПрдХрд╛ рдЫреМрдВред рддрд░, рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХрд╣рд░реВ рдкреНрд░рдпреЛрдЧ рдЧрд░реЗрд░ рдЕрдиреНрдп NLP рдХрд╛рд░реНрдпрд╣рд░реВ рдкрдирд┐ рдЧрд░реНрди рд╕рдХрд┐рдиреНрдЫред рддреАрдордзреНрдпреЗ рдПрдХ рдХрд╛рд░реНрдп рд╣реЛ рдирд╛рдорд┐рдд рдЗрдХрд╛рдИ рдкрд╣рд┐рдЪрд╛рди (NER), рдЬрд╕рд▓реЗ рдкрд╛рдарднрд┐рддреНрд░ рд╡рд┐рд╢реЗрд╖ рдЗрдХрд╛рдИрд╣рд░реВ рдЬрд╕реНрддреИ рд╕реНрдерд╛рдирд╣рд░реВ, рд╡реНрдпрдХреНрддрд┐рдХреЛ рдирд╛рдорд╣рд░реВ, рдорд┐рддрд┐-рд╕рдордп рдЕрдиреНрддрд░рд╛рд▓рд╣рд░реВ, рд░рд╕рд╛рдпрдирд┐рдХ рд╕реВрддреНрд░рд╣рд░реВ рдЖрджрд┐ рдкрд╣рд┐рдЪрд╛рди рдЧрд░реНрди рдорджреНрджрдд рдЧрд░реНрджрдЫред
рдкреВрд░реНрд╡-рд╡реНрдпрд╛рдЦреНрдпрд╛рди рдХреНрд╡рд┐рдЬ
NER рдкреНрд░рдпреЛрдЧрдХреЛ рдЙрджрд╛рд╣рд░рдг
рдорд╛рдиреМрдВ рддрдкрд╛рдИрдВрд▓реЗ Amazon Alexa рд╡рд╛ Google Assistant рдЬрд╕реНрддреИ рдкреНрд░рд╛рдХреГрддрд┐рдХ рднрд╛рд╖рд╛ рдЪреНрдпрд╛рдЯ рдмреЛрдЯ рд╡рд┐рдХрд╛рд╕ рдЧрд░реНрди рдЪрд╛рд╣рдиреБрд╣реБрдиреНрдЫред рдмреМрджреНрдзрд┐рдХ рдЪреНрдпрд╛рдЯ рдмреЛрдЯрд╣рд░реВ рдпрд╕рд░реА рдХрд╛рдо рдЧрд░реНрдЫрдиреН рдХрд┐ рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд▓реЗ рдХреЗ рдЪрд╛рд╣рдиреНрдЫ рднрдиреЗрд░ рдмреБрдЭреНрдирдХреЛ рд▓рд╛рдЧрд┐ рдЗрдирдкреБрдЯ рд╡рд╛рдХреНрдпрдорд╛ рдкрд╛рда рд╡рд░реНрдЧреАрдХрд░рдг рдЧрд░реНрдЫрдиреНред рдпрд╕ рд╡рд░реНрдЧреАрдХрд░рдгрдХреЛ рдирддрд┐рдЬрд╛ рдЗрдиреНрдЯреЗрдиреНрдЯ рд╣реЛ, рдЬрд╕рд▓реЗ рдЪреНрдпрд╛рдЯ рдмреЛрдЯрд▓реЗ рдХреЗ рдЧрд░реНрдиреБрдкрд░реНрдЫ рднрдиреНрдиреЗ рдирд┐рд░реНрдзрд╛рд░рдг рдЧрд░реНрдЫред
рд▓реЗрдЦрдХрджреНрд╡рд╛рд░рд╛ рдкреНрд░рджрд╛рди рдЧрд░рд┐рдПрдХреЛ рдЫрд╡рд┐
рддрд░, рдкреНрд░рдпреЛрдЧрдХрд░реНрддрд╛рд▓реЗ рд╡рд╛рдХреНрдпрд╛рдВрд╢рдХреЛ рднрд╛рдЧрдХреЛ рд░реВрдкрдорд╛ рдХреЗрд╣реА рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░рд╣рд░реВ рдкреНрд░рджрд╛рди рдЧрд░реНрди рд╕рдХреНрдЫред рдЙрджрд╛рд╣рд░рдгрдХрд╛ рд▓рд╛рдЧрд┐, рдореМрд╕рдо рд╕реЛрдзреНрджрд╛, рдЙрдирд▓реЗ рд╕реНрдерд╛рди рд╡рд╛ рдорд┐рддрд┐ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдЧрд░реНрди рд╕рдХреНрдЫрдиреНред рдмреЛрдЯрд▓реЗ рддреА рдЗрдХрд╛рдИрд╣рд░реВ рдмреБрдЭреНрди рд╕рдХреНрдиреБрдкрд░реНрдЫ рд░ рдХрд╛рд░реНрдп рдЧрд░реНрдиреБ рдЕрдШрд┐ рдкреНрдпрд╛рд░рд╛рдорд┐рдЯрд░ рд╕реНрд▓рдЯрд╣рд░реВ рднрд░рд┐рджрд┐рдиреБрдкрд░реНрдЫред рдпрд╣реА рдард╛рдЙрдБрдорд╛ NER рдЙрдкрдпреЛрдЧреА рд╣реБрдиреНрдЫред
тЬЕ рдЕрд░реНрдХреЛ рдЙрджрд╛рд╣рд░рдг рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рдЪрд┐рдХрд┐рддреНрд╕рд╛ рдХрд╛рдЧрдЬрд╛рддрд╣рд░реВрдХреЛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рд╣реЛред рдореБрдЦреНрдп рдХреБрд░рд╛ рднрдиреЗрдХреЛ рд╡рд┐рд╢рд┐рд╖реНрдЯ рдЪрд┐рдХрд┐рддреНрд╕рд╛ рд╢рдмреНрджрд╣рд░реВ рдЬрд╕реНрддреИ рд░реЛрдЧрд╣рд░реВ рд░ рдЪрд┐рдХрд┐рддреНрд╕рд╛ рдкрджрд╛рд░реНрдерд╣рд░реВ рдЦреЛрдЬреНрдиреБ рд╣реЛред рдХреЗрд╣реА рд░реЛрдЧрд╣рд░реВрд▓рд╛рдИ рд╕рдореНрднрд╡рддрдГ рд╕рдмрд╕реНрдЯреНрд░рд┐рдЩ рдЦреЛрдЬ рдкреНрд░рдпреЛрдЧ рдЧрд░реЗрд░ рдирд┐рдХрд╛рд▓реНрди рд╕рдХрд┐рдиреНрдЫ, рддрд░ рдЬрдЯрд┐рд▓ рдЗрдХрд╛рдИрд╣рд░реВ рдЬрд╕реНрддреИ рд░рд╕рд╛рдпрдирд┐рдХ рдпреМрдЧрд┐рдХрд╣рд░реВ рд░ рдФрд╖рдзрд┐рдХреЛ рдирд╛рдорд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдЬрдЯрд┐рд▓ рджреГрд╖реНрдЯрд┐рдХреЛрдг рдЖрд╡рд╢реНрдпрдХ рд╣реБрдиреНрдЫред
рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдгрдХреЛ рд░реВрдкрдорд╛ NER
NER рдореЛрдбреЗрд▓рд╣рд░реВ рдореВрд▓рддрдГ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЛрдбреЗрд▓рд╣рд░реВ рд╣реБрдиреН, рдХрд┐рдирдХрд┐ рдкреНрд░рддреНрдпреЗрдХ рдЗрдирдкреБрдЯ рдЯреЛрдХрдирдХреЛ рд▓рд╛рдЧрд┐ рд╣рд╛рдореАрд▓реЗ рдирд┐рд░реНрдгрдп рдЧрд░реНрдиреБрдкрд░реНрдЫ рдХрд┐ рдпреЛ рдХреБрдиреИ рдЗрдХрд╛рдИрдорд╛ рдкрд░реНрдЫ рдХрд┐ рдкрд░реНрджреИрди, рд░ рдпрджрд┐ рдкрд░реНрдЫ рднрдиреЗ - рдХреБрди рдЗрдХрд╛рдИ рд╡рд░реНрдЧрдорд╛ рдкрд░реНрдЫред
рдирд┐рдореНрди рдХрд╛рдЧрдЬрд╛рдд рд╢реАрд░реНрд╖рдХрд▓рд╛рдИ рд╡рд┐рдЪрд╛рд░ рдЧрд░реНрдиреБрд╣реЛрд╕реН:
Tricuspid valve regurgitation рд░ lithium carbonate toxicity рдирд╡рдЬрд╛рдд рд╢рд┐рд╢реБрдорд╛ред
рдпрд╣рд╛рдБ рдЗрдХрд╛рдИрд╣рд░реВ рдЫрдиреН:
- Tricuspid valve regurgitation рдПрдХ рд░реЛрдЧ рд╣реЛ (
DIS) - Lithium carbonate рдПрдХ рд░рд╕рд╛рдпрдирд┐рдХ рдкрджрд╛рд░реНрде рд╣реЛ (
CHEM) - Toxicity рдкрдирд┐ рдПрдХ рд░реЛрдЧ рд╣реЛ (
DIS)
рдзреНрдпрд╛рди рджрд┐рдиреБрд╣реЛрд╕реН рдХрд┐ рдПрдХ рдЗрдХрд╛рдИрд▓реЗ рдзреЗрд░реИ рдЯреЛрдХрдирд╣рд░реВ рд╕рдореЗрдЯреНрди рд╕рдХреНрдЫред рд░, рдпрд╕ рдЕрд╡рд╕реНрдерд╛рдорд╛, рд╣рд╛рдореАрд▓реЗ рджреБрдИ рд▓рдЧрд╛рддрд╛рд░ рдЗрдХрд╛рдИрд╣рд░реВ рдмреАрдЪ рднрд┐рдиреНрдирддрд╛ рдЧрд░реНрдиреБрдкрд░реНрдЫред рддреНрдпрд╕реИрд▓реЗ, рдкреНрд░рддреНрдпреЗрдХ рдЗрдХрд╛рдИрдХреЛ рд▓рд╛рдЧрд┐ рджреБрдИ рд╡рд░реНрдЧрд╣рд░реВ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдиреБ рд╕рд╛рдорд╛рдиреНрдп рд╣реЛ - рдПрдЙрдЯрд╛ рдЗрдХрд╛рдИрдХреЛ рдкрд╣рд┐рд▓реЛ рдЯреЛрдХрди рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдЧрд░реНрдиреЗ (B- рдЙрдкрд╕рд░реНрдЧ, beginning рдХреЛ рд▓рд╛рдЧрд┐), рд░ рдЕрд░реНрдХреЛ - рдЗрдХрд╛рдИрдХреЛ рдирд┐рд░рдиреНрддрд░рддрд╛ (I-, inner рдЯреЛрдХрдирдХреЛ рд▓рд╛рдЧрд┐)ред рд╣рд╛рдореА O рд╡рд░реНрдЧрд▓рд╛рдИ рд╕рдмреИ other рдЯреЛрдХрдирд╣рд░реВ рдкреНрд░рддрд┐рдирд┐рдзрд┐рддреНрд╡ рдЧрд░реНрди рдкреНрд░рдпреЛрдЧ рдЧрд░реНрдЫреМрдВред рдпрд╕реНрддреЛ рдЯреЛрдХрди рдЯреНрдпрд╛рдЧрд┐рдЩрд▓рд╛рдИ BIO рдЯреНрдпрд╛рдЧрд┐рдЩ (рд╡рд╛ IOB) рднрдирд┐рдиреНрдЫред рдЯреНрдпрд╛рдЧ рдЧрд░рд┐рдПрдХреЛ рдЕрд╡рд╕реНрдерд╛рдорд╛, рд╣рд╛рдореНрд░реЛ рд╢реАрд░реНрд╖рдХ рдпрд╕рд░реА рджреЗрдЦрд┐рдиреНрдЫ:
| Token | Tag |
|---|---|
| Tricuspid | B-DIS |
| valve | I-DIS |
| regurgitation | I-DIS |
| and | O |
| lithium | B-CHEM |
| carbonate | I-CHEM |
| toxicity | B-DIS |
| in | O |
| a | O |
| newborn | O |
| infant | O |
| . | O |
рдХрд┐рдирдХрд┐ рд╣рд╛рдореАрд▓реЗ рдЯреЛрдХрдирд╣рд░реВ рд░ рд╡рд░реНрдЧрд╣рд░реВ рдмреАрдЪ рдПрдХ-рджреЗрдЦрд┐-рдПрдХ рд╕рдореНрдмрдиреНрдз рдирд┐рд░реНрдорд╛рдг рдЧрд░реНрдиреБрдкрд░реНрдЫ, рд╣рд╛рдореА рдпрд╕ рдЪрд┐рддреНрд░рдмрд╛рдЯ рд╕рд╣реА many-to-many рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рдореЛрдбреЗрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдЧрд░реНрди рд╕рдХреНрдЫреМрдВ:
Andrej Karpathy рджреНрд╡рд╛рд░рд╛ рдпреЛ рдмреНрд▓рдЧ рдкреЛрд╕реНрдЯ рдмрд╛рдЯ рдЫрд╡рд┐ред NER рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЛрдбреЗрд▓рд╣рд░реВ рдпрд╕ рдЪрд┐рддреНрд░рдХреЛ рджрд╛рдпрд╛рдБ-рддрд░реНрдлрдХреЛ рдиреЗрдЯрд╡рд░реНрдХ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░рд╕рдБрдЧ рдореЗрд▓ рдЦрд╛рдиреНрдЫред
NER рдореЛрдбреЗрд▓рд╣рд░реВ рдкреНрд░рд╢рд┐рдХреНрд╖рдг
рдХрд┐рдирдХрд┐ NER рдореЛрдбреЗрд▓ рдореВрд▓рддрдГ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЛрдбреЗрд▓ рд╣реЛ, рд╣рд╛рдореА рдпрд╕ рдХрд╛рд░реНрдпрдХреЛ рд▓рд╛рдЧрд┐ рдкрд╣рд┐рд▓реЗ рдиреИ рдкрд░рд┐рдЪрд┐рдд RNN рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рд╕рдХреНрдЫреМрдВред рдпрд╕ рдЕрд╡рд╕реНрдерд╛рдорд╛, рдкреБрдирд░рд╛рд╡рд░реНрддреА рдиреЗрдЯрд╡рд░реНрдХрдХреЛ рдкреНрд░рддреНрдпреЗрдХ рдмреНрд▓рдХрд▓реЗ рдЯреЛрдХрди ID рдлрд┐рд░реНрддрд╛ рдЧрд░реНрдиреЗрдЫред рдирд┐рдореНрди рдЙрджрд╛рд╣рд░рдг рдиреЛрдЯрдмреБрдХрд▓реЗ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдгрдХреЛ рд▓рд╛рдЧрд┐ LSTM рдХрд╕рд░реА рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдЧрд░реНрдиреЗ рджреЗрдЦрд╛рдЙрдБрдЫред
тЬНя╕П рдЙрджрд╛рд╣рд░рдг рдиреЛрдЯрдмреБрдХрд╣рд░реВ: NER
рдирд┐рдореНрди рдиреЛрдЯрдмреБрдХрдорд╛ рд╕рд┐рдХрд╛рдЗ рдЬрд╛рд░реА рд░рд╛рдЦреНрдиреБрд╣реЛрд╕реН:
рдирд┐рд╖реНрдХрд░реНрд╖
NER рдореЛрдбреЗрд▓ рдПрдХ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЛрдбреЗрд▓ рд╣реЛ, рдЬрд╕рдХреЛ рдЕрд░реНрде рдпреЛ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдЧрд░реНрди рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рд╕рдХрд┐рдиреНрдЫред рдпреЛ NLP рдорд╛ рдзреЗрд░реИ рд╕рд╛рдорд╛рдиреНрдп рдХрд╛рд░реНрдп рд╣реЛ, рдЬрд╕рд▓реЗ рдкрд╛рдарднрд┐рддреНрд░ рд╕реНрдерд╛рдирд╣рд░реВ, рдирд╛рдорд╣рд░реВ, рдорд┐рддрд┐рд╣рд░реВ, рд░ рдЕрдиреНрдп рдзреЗрд░реИ рд╡рд┐рд╢реЗрд╖ рдЗрдХрд╛рдИрд╣рд░реВ рдкрд╣рд┐рдЪрд╛рди рдЧрд░реНрди рдорджреНрджрдд рдЧрд░реНрджрдЫред
ЁЯЪА рдЪреБрдиреМрддреА
рддрд▓ рд▓рд┐рдВрдХ рдЧрд░рд┐рдПрдХреЛ рдЕрд╕рд╛рдЗрдирдореЗрдиреНрдЯ рдкреВрд░рд╛ рдЧрд░реЗрд░ рдЪрд┐рдХрд┐рддреНрд╕рд╛ рд╢рдмреНрджрд╣рд░реВрдХреЛ рд▓рд╛рдЧрд┐ рдирд╛рдорд┐рдд рдЗрдХрд╛рдИ рдкрд╣рд┐рдЪрд╛рди рдореЛрдбреЗрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдЧрд░реНрдиреБрд╣реЛрд╕реН, рддреНрдпрд╕рдкрдЫрд┐ рдпрд╕рд▓рд╛рдИ рдлрд░рдХ рдбреЗрдЯрд╛рд╕реЗрдЯрдорд╛ рдкреНрд░рдпрд╛рд╕ рдЧрд░реНрдиреБрд╣реЛрд╕реНред
рдкрд╢реНрдЪ-рд╡реНрдпрд╛рдЦреНрдпрд╛рди рдХреНрд╡рд┐рдЬ
рд╕рдореАрдХреНрд╖рд╛ рд░ рдЖрддреНрдо рдЕрдзреНрдпрдпрди
рдмреНрд▓рдЧ The Unreasonable Effectiveness of Recurrent Neural Networks рдкрдвреНрдиреБрд╣реЛрд╕реН рд░ рдЙрдХреНрдд рд▓реЗрдЦрдХреЛ Further Reading рдЦрдгреНрдбрд╕рдБрдЧреИ рдЕрдзреНрдпрдпрди рдЧрд░реЗрд░ рдЖрдлреНрдиреЛ рдЬреНрдЮрд╛рдирд▓рд╛рдИ рдЧрд╣рд┐рд░реЛ рдмрдирд╛рдЙрдиреБрд╣реЛрд╕реНред
рдЕрд╕рд╛рдЗрдирдореЗрдиреНрдЯ
рдпрд╕ рдкрд╛рдардХреЛ рдЕрд╕рд╛рдЗрдирдореЗрдиреНрдЯрдорд╛, рддрдкрд╛рдИрдВрд▓реЗ рдЪрд┐рдХрд┐рддреНрд╕рд╛ рдЗрдХрд╛рдИ рдкрд╣рд┐рдЪрд╛рди рдореЛрдбреЗрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдЧрд░реНрдиреБрдкрд░реНрдиреЗрдЫред рддрдкрд╛рдИрдВрд▓реЗ рдпрд╕ рдкрд╛рдардорд╛ рд╡рд░реНрдгрди рдЧрд░рд┐рдПрдХреЛ LSTM рдореЛрдбреЗрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдгрдмрд╛рдЯ рд╕реБрд░реБ рдЧрд░реНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫ, рд░ BERT рдЯреНрд░рд╛рдиреНрд╕рдлрд░реНрдорд░ рдореЛрдбреЗрд▓ рдкреНрд░рдпреЛрдЧ рдЧрд░реНрди рдЕрдЧрд╛рдбрд┐ рдмрдвреНрди рд╕рдХреНрдиреБрд╣реБрдиреНрдЫред рдирд┐рд░реНрджреЗрд╢рдирд╣рд░реВ рдкрдвреЗрд░ рд╕рдмреИ рд╡рд┐рд╡рд░рдг рдкреНрд░рд╛рдкреНрдд рдЧрд░реНрдиреБрд╣реЛрд╕реНред
