AI-For-Beginners/translations/mr/lessons/5-NLP/19-NER
localizeflow[bot] 0a9890ad15 chore(i18n): sync translations with latest source changes (chunk 1/1, 201 changes) 2026-01-30 01:39:02 +00:00
..
lab chore(i18n): sync translations with latest source changes (chunk 1/1, 201 changes) 2026-01-30 01:39:02 +00:00
NER-TF.ipynb ЁЯМР Update translations via Co-op Translator 2025-08-28 09:56:50 +00:00
README.md chore(i18n): sync translations with latest source changes (chunk 1/1, 201 changes) 2026-01-30 01:39:02 +00:00

README.md

рдирд╛рдорд┐рдд рдШрдЯрдХ рдУрд│рдЦ (Named Entity Recognition)

рдЖрддреНрддрд╛рдкрд░реНрдпрдВрдд рдЖрдкрдг рдореБрдЦреНрдпрддрдГ рдПрдХрд╛ NLP рдХрд╛рд░реНрдпрд╛рд╡рд░ - рд╡рд░реНрдЧреАрдХрд░рдгрд╛рд╡рд░ рд▓рдХреНрд╖ рдХреЗрдВрджреНрд░рд┐рдд рдХреЗрд▓реЗ рдЖрд╣реЗ. рдкрд░рдВрддреБ, рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХреНрд╕рдЪреНрдпрд╛ рдорджрддреАрдиреЗ рдЗрддрд░рд╣реА NLP рдХрд╛рд░реНрдпреЗ рд╕рд╛рдзреНрдп рдХрд░рддрд╛ рдпреЗрддрд╛рдд. рддреНрдпрд╛рдкреИрдХреА рдПрдХ рдХрд╛рд░реНрдп рдореНрд╣рдгрдЬреЗ рдирд╛рдорд┐рдд рдШрдЯрдХ рдУрд│рдЦ (NER), рдЬреНрдпрд╛рдордзреНрдпреЗ рдордЬрдХреБрд░рд╛рддреАрд▓ рд╡рд┐рд╢рд┐рд╖реНрдЯ рдШрдЯрдХ рдУрд│рдЦрдгреЗ рд╕рдорд╛рд╡рд┐рд╖реНрдЯ рдЖрд╣реЗ, рдЬрд╕реЗ рдХреА рдард┐рдХрд╛рдгреЗ, рд╡реНрдпрдХреНрддреАрдВрдЪреА рдирд╛рд╡реЗ, рджрд┐рдирд╛рдВрдХ-рд╡реЗрд│реЗрдЪреЗ рдХрд╛рд▓рдЦрдВрдб, рд░рд╛рд╕рд╛рдпрдирд┐рдХ рд╕реВрддреНрд░реЗ рдЗрддреНрдпрд╛рджреА.

рдкреВрд░реНрд╡-рд╡реНрдпрд╛рдЦреНрдпрд╛рди рдкреНрд░рд╢реНрдирдордВрдЬреБрд╖рд╛

NER рдЪрд╛ рд╡рд╛рдкрд░ рдХрд░рдгреНрдпрд╛рдЪреЗ рдЙрджрд╛рд╣рд░рдг

рд╕рдордЬрд╛, рддреБрдореНрд╣рд╛рд▓рд╛ Amazon Alexa рдХрд┐рдВрд╡рд╛ Google Assistant рд╕рд╛рд░рдЦрд╛ рдиреИрд╕рд░реНрдЧрд┐рдХ рднрд╛рд╖рд╛ рдЪреЕрдЯ рдмреЙрдЯ рд╡рд┐рдХрд╕рд┐рдд рдХрд░рд╛рдпрдЪрд╛ рдЖрд╣реЗ. рд╣реБрд╢рд╛рд░ рдЪреЕрдЯ рдмреЙрдЯреНрд╕ рдХрд╕реЗ рдХрд╛рд░реНрдп рдХрд░рддрд╛рдд? рддреЗ рд╡рд╛рдкрд░рдХрд░реНрддреНрдпрд╛рд▓рд╛ рдХрд╛рдп рд╣рд╡реЗ рдЖрд╣реЗ рд╣реЗ рд╕рдордЬреВрди рдШреЗрдгреНрдпрд╛рд╕рд╛рдареА рдЗрдирдкреБрдЯ рд╡рд╛рдХреНрдпрд╛рд╡рд░ рдордЬрдХреВрд░ рд╡рд░реНрдЧреАрдХрд░рдг рдХрд░рддрд╛рдд. рдпрд╛ рд╡рд░реНрдЧреАрдХрд░рдгрд╛рдЪрд╛ рдкрд░рд┐рдгрд╛рдо рдореНрд╣рдгрдЬреЗ рдЙрджреНрджреЗрд╢ (intent), рдЬреЛ рдард░рд╡рддреЛ рдХреА рдЪреЕрдЯ рдмреЙрдЯрдиреЗ рдХрд╛рдп рдХрд░рд╛рд╡реЗ.

Bot NER

рд▓реЗрдЦрдХрд╛рдиреЗ рддрдпрд╛рд░ рдХреЗрд▓реЗрд▓реА рдкреНрд░рддрд┐рдорд╛

рддрдерд╛рдкрд┐, рд╡рд╛рдкрд░рдХрд░реНрддрд╛ рд╡рд╛рдХреНрдпрд╛рдВрд╢рд╛рдЪрд╛ рднрд╛рдЧ рдореНрд╣рдгреВрди рдХрд╛рд╣реА рдкреЕрд░рд╛рдореАрдЯрд░реНрд╕ рдкреНрд░рджрд╛рди рдХрд░реВ рд╢рдХрддреЛ. рдЙрджрд╛рд╣рд░рдгрд╛рд░реНрде, рд╣рд╡рд╛рдорд╛рди рд╡рд┐рдЪрд╛рд░рддрд╛рдирд╛, рддреА рд╡реНрдпрдХреНрддреА рд╕реНрдерд╛рди рдХрд┐рдВрд╡рд╛ рддрд╛рд░реАрдЦ рдирд┐рд░реНрджрд┐рд╖реНрдЯ рдХрд░реВ рд╢рдХрддреЗ. рдмреЙрдЯрдиреЗ рд╣реЗ рдШрдЯрдХ рд╕рдордЬреВрди рдШреЗрддрд▓реЗ рдкрд╛рд╣рд┐рдЬреЗрдд рдЖрдгрд┐ рдХреГрддреА рдХрд░рдгреНрдпрд╛рдкреВрд░реНрд╡реА рдкреЕрд░рд╛рдореАрдЯрд░ рд╕реНрд▓реЙрдЯреНрд╕ рдпреЛрдЧреНрдп рдкреНрд░рдХрд╛рд░реЗ рднрд░рд▓реЗ рдкрд╛рд╣рд┐рдЬреЗрдд. рдпрд╛рд╕рд╛рдареАрдЪ NER рдЙрдкрдпреБрдХреНрдд рдард░рддреЗ.

тЬЕ рдЖрдгрдЦреА рдПрдХ рдЙрджрд╛рд╣рд░рдг рдореНрд╣рдгрдЬреЗ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рд╡реИрджреНрдпрдХреАрдп рд▓реЗрдЦрд╛рдВрдЪреЗ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдХрд░рдгреЗ. рдпреЗрдереЗ рдореБрдЦреНрдпрддрдГ рд╢реЛрдзрд╛рдпрдЪреНрдпрд╛ рдЧреЛрд╖реНрдЯреА рдореНрд╣рдгрдЬреЗ рд╡рд┐рд╢рд┐рд╖реНрдЯ рд╡реИрджреНрдпрдХреАрдп рд╕рдВрдЬреНрдЮрд╛, рдЬрд╕реЗ рдХреА рд░реЛрдЧ рдЖрдгрд┐ рд╡реИрджреНрдпрдХреАрдп рдкрджрд╛рд░реНрде. рдХрд╛рд╣реА рдореЛрдЬрдХреНрдпрд╛ рд░реЛрдЧрд╛рдВрдЪреЗ рд╢реЛрдз substring рд╢реЛрдзрд╛рдЪрд╛ рд╡рд╛рдкрд░ рдХрд░реВрди рдХрд╛рдврддрд╛ рдпреЗрддреАрд▓, рдкрд░рдВрддреБ рд░рд╛рд╕рд╛рдпрдирд┐рдХ рд╕рдВрдпреБрдЧреЗ рдЖрдгрд┐ рдФрд╖рдзрд╛рдВрдЪреНрдпрд╛ рдирд╛рд╡рд╛рдВрд╕рд╛рд░рдЦреНрдпрд╛ рдЕрдзрд┐рдХ рдЧреБрдВрддрд╛рдЧреБрдВрддреАрдЪреНрдпрд╛ рдШрдЯрдХрд╛рдВрд╕рд╛рдареА рдЕрдзрд┐рдХ рдкреНрд░рдЧрдд рджреГрд╖реНрдЯрд┐рдХреЛрди рдЖрд╡рд╢реНрдпрдХ рдЖрд╣реЗ.

NER рдореНрд╣рдгрдЬреЗ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг

NER рдореЙрдбреЗрд▓реНрд╕ рдореВрд▓рдд: рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЙрдбреЗрд▓реНрд╕ рдЕрд╕рддрд╛рдд, рдХрд╛рд░рдг рдкреНрд░рддреНрдпреЗрдХ рдЗрдирдкреБрдЯ рдЯреЛрдХрдирд╕рд╛рдареА рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рдард░рд╡рд╛рдпрдЪреЗ рдЕрд╕рддреЗ рдХреА рддреЗ рдПрдЦрд╛рджреНрдпрд╛ рдШрдЯрдХрд╛рд╢реА рд╕рдВрдмрдВрдзрд┐рдд рдЖрд╣реЗ рдХрд╛, рдЖрдгрд┐ рдЕрд╕рд▓реНрдпрд╛рд╕ - рдХреЛрдгрддреНрдпрд╛ рдШрдЯрдХ рд╡рд░реНрдЧрд╛рд╢реА рд╕рдВрдмрдВрдзрд┐рдд рдЖрд╣реЗ.

рдЦрд╛рд▓реАрд▓ рдкреЗрдкрд░ рд╢реАрд░реНрд╖рдХ рд╡рд┐рдЪрд╛рд░ рдХрд░рд╛:

Tricuspid valve regurgitation рдЖрдгрд┐ lithium carbonate toxicity рдПрдХрд╛ рдирд╡рдЬрд╛рдд рдмрд╛рд▓рдХрд╛рдд.

рдпреЗрдереАрд▓ рдШрдЯрдХ:

  • Tricuspid valve regurgitation рд╣рд╛ рдПрдХ рд░реЛрдЧ рдЖрд╣реЗ (DIS)
  • Lithium carbonate рд╣рд╛ рдПрдХ рд░рд╛рд╕рд╛рдпрдирд┐рдХ рдкрджрд╛рд░реНрде рдЖрд╣реЗ (CHEM)
  • Toxicity рд╣рд╛ рджреЗрдЦреАрд▓ рдПрдХ рд░реЛрдЧ рдЖрд╣реЗ (DIS)

рд▓рдХреНрд╖рд╛рдд рдШреНрдпрд╛ рдХреА рдПрдХ рдШрдЯрдХ рдЕрдиреЗрдХ рдЯреЛрдХрдиреНрд╕рдордзреНрдпреЗ рд╡рд┐рднрд╛рдЧрд▓реЗрд▓рд╛ рдЕрд╕реВ рд╢рдХрддреЛ. рдЖрдгрд┐, рдпрд╛ рдкреНрд░рдХрд░рдгрд╛рдд, рдЖрдкрд▓реНрдпрд╛рд▓рд╛ рджреЛрди рд╕рд▓рдЧ рдШрдЯрдХрд╛рдВрдордзреНрдпреЗ рдлрд░рдХ рдХрд░рд╛рд╡рд╛ рд▓рд╛рдЧрддреЛ. рдореНрд╣рдгреВрдирдЪ, рдкреНрд░рддреНрдпреЗрдХ рдШрдЯрдХрд╛рд╕рд╛рдареА рджреЛрди рд╡рд░реНрдЧ рд╡рд╛рдкрд░рдгреЗ рд╕рд╛рдорд╛рдиреНрдп рдЖрд╣реЗ - рдПрдХ рдШрдЯрдХрд╛рдЪреНрдпрд╛ рдкрд╣рд┐рд▓реНрдпрд╛ рдЯреЛрдХрдирд╕рд╛рдареА (B- рдЙрдкрд╕рд░реНрдЧ, рдореНрд╣рдгрдЬреЗ beginning) рдЖрдгрд┐ рджреБрд╕рд░рд╛ рдШрдЯрдХрд╛рдЪреНрдпрд╛ рдкреБрдвреАрд▓ рдЯреЛрдХрдиреНрд╕рд╕рд╛рдареА (I-, рдореНрд╣рдгрдЬреЗ inner token). рддрд╕реЗрдЪ, рдЗрддрд░ рд╕рд░реНрд╡ рдЯреЛрдХрдиреНрд╕рд╕рд╛рдареА O рд╡рд░реНрдЧ рд╡рд╛рдкрд░рд▓рд╛ рдЬрд╛рддреЛ. рдЕрд╢рд╛ рдкреНрд░рдХрд╛рд░рдЪреНрдпрд╛ рдЯреЛрдХрди рдЯреЕрдЧрд┐рдВрдЧрд▓рд╛ BIO рдЯреЕрдЧрд┐рдВрдЧ (рдХрд┐рдВрд╡рд╛ IOB) рдореНрд╣рдгрддрд╛рдд. рдЯреЕрдЧрд┐рдВрдЧ рдХреЗрд▓реНрдпрд╛рдирдВрддрд░, рдЖрдкрд▓реЗ рд╢реАрд░реНрд╖рдХ рдЕрд╕реЗ рджрд┐рд╕реЗрд▓:

Token Tag
Tricuspid B-DIS
valve I-DIS
regurgitation I-DIS
and O
lithium B-CHEM
carbonate I-CHEM
toxicity B-DIS
in O
a O
newborn O
infant O
. O

рдЯреЛрдХрдиреНрд╕ рдЖрдгрд┐ рд╡рд░реНрдЧрд╛рдВрдордзреНрдпреЗ рдПрдХ-рддреЗ-рдПрдХ рд╕рдВрдмрдВрдз рддрдпрд╛рд░ рдХрд░рдгреЗ рдЖрд╡рд╢реНрдпрдХ рдЕрд╕рд▓реНрдпрд╛рдиреЗ, рдЖрдкрдг рдпрд╛ рдЪрд┐рддреНрд░рд╛рддреВрди рдЙрдЬрд╡реНрдпрд╛ рдмрд╛рдЬреВрд▓рд╛ рдЕрд╕рд▓реЗрд▓реНрдпрд╛ рдЕрдиреЗрдХ-рддреЗ-рдЕрдиреЗрдХ рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рдореЙрдбреЗрд▓рд▓рд╛ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреЗрдК рд╢рдХрддреЛ:

рд╕рд╛рдорд╛рдиреНрдп рдкреБрдирд░рд╛рд╡реГрддреНрддреАрд╢реАрд▓ рдиреНрдпреВрд░рд▓ рдиреЗрдЯрд╡рд░реНрдХ рдирдореБрдиреНрдпрд╛рдВрдЪреЗ рдЪрд┐рддреНрд░.

Andrej Karpathy рдпрд╛рдВрдЪреНрдпрд╛ рдпрд╛ рдмреНрд▓реЙрдЧ рдкреЛрд╕реНрдЯрдордзреВрди рдШреЗрддрд▓реЗрд▓реЗ рдЪрд┐рддреНрд░. NER рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЙрдбреЗрд▓реНрд╕ рдпрд╛ рдЪрд┐рддреНрд░рд╛рддреАрд▓ рдЙрдЬрд╡реНрдпрд╛ рдмрд╛рдЬреВрдЪреНрдпрд╛ рдиреЗрдЯрд╡рд░реНрдХ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░рд╢реА рд╕рдВрдмрдВрдзрд┐рдд рдЖрд╣реЗрдд.

NER рдореЙрдбреЗрд▓реНрд╕рдЪреЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг

NER рдореЙрдбреЗрд▓ рд╣реЗ рдореВрд▓рдд: рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЙрдбреЗрд▓ рдЕрд╕рд▓реНрдпрд╛рдиреЗ, рдЖрдкрдг рдпрд╛рд╕рд╛рдареА RNNs рд╡рд╛рдкрд░реВ рд╢рдХрддреЛ, рдЬреНрдпрд╛рдмрджреНрджрд▓ рдЖрдкрдг рдЖрдзреАрдЪ рд╢рд┐рдХрд▓реЗрд▓реЛ рдЖрд╣реЛрдд. рдпрд╛ рдкреНрд░рдХрд░рдгрд╛рдд, рдкреБрдирд░рд╛рд╡реГрддреНрддреАрд╢реАрд▓ рдиреЗрдЯрд╡рд░реНрдХрдЪрд╛ рдкреНрд░рддреНрдпреЗрдХ рдмреНрд▓реЙрдХ рдЯреЛрдХрди ID рдкрд░рдд рдХрд░рддреЛ. рдЦрд╛рд▓реАрд▓ рдЙрджрд╛рд╣рд░рдг рдиреЛрдЯрдмреБрдХрдордзреНрдпреЗ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдгрд╛рд╕рд╛рдареА LSTM рдХрд╕реЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреНрдпрд╛рдпрдЪреЗ рддреЗ рджрд╛рдЦрд╡рд▓реЗ рдЖрд╣реЗ.

тЬНя╕П рдЙрджрд╛рд╣рд░рдг рдиреЛрдЯрдмреБрдХреНрд╕: NER

рдЦрд╛рд▓реАрд▓ рдиреЛрдЯрдмреБрдХрдордзреНрдпреЗ рддреБрдордЪреЗ рд╢рд┐рдХреНрд╖рдг рд╕реБрд░реВ рдареЗрд╡рд╛:

рдирд┐рд╖реНрдХрд░реНрд╖

NER рдореЙрдбреЗрд▓ рд╣реЗ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдореЙрдбреЗрд▓ рдЖрд╣реЗ, рдореНрд╣рдгрдЬреЗрдЪ рддреЗ рдЯреЛрдХрди рд╡рд░реНрдЧреАрдХрд░рдг рдХрд░рдгреНрдпрд╛рд╕рд╛рдареА рд╡рд╛рдкрд░рд▓реЗ рдЬрд╛рдК рд╢рдХрддреЗ. рд╣реЗ NLP рдордзреАрд▓ рдПрдХ рдЕрддрд┐рд╢рдп рд╕рд╛рдорд╛рдиреНрдп рдХрд╛рд░реНрдп рдЖрд╣реЗ, рдЬреЗ рдордЬрдХреБрд░рд╛рддреАрд▓ рд╡рд┐рд╢рд┐рд╖реНрдЯ рдШрдЯрдХ рдУрд│рдЦрдгреНрдпрд╛рдд рдорджрдд рдХрд░рддреЗ, рдЬрд╕реЗ рдХреА рдард┐рдХрд╛рдгреЗ, рдирд╛рд╡реЗ, рддрд╛рд░рдЦрд╛ рдЖрдгрд┐ рдмрд░реЗрдЪ рдХрд╛рд╣реА.

ЁЯЪА рдЖрд╡реНрд╣рд╛рди

рдЦрд╛рд▓реАрд▓ рд▓рд┐рдВрдХ рдХреЗрд▓реЗрд▓реЗ рдЕрд╕рд╛рдЗрдирдореЗрдВрдЯ рдкреВрд░реНрдг рдХрд░рд╛, рдЬреНрдпрд╛рдордзреНрдпреЗ рд╡реИрджреНрдпрдХреАрдп рд╕рдВрдЬреНрдЮрд╛рдВрд╕рд╛рдареА NER рдореЙрдбреЗрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреНрдпрд╛рдпрдЪреЗ рдЖрд╣реЗ, рдЖрдгрд┐ рдирдВрддрд░ рддреЗ рд╡реЗрдЧрд│реНрдпрд╛ рдбреЗрдЯрд╛рд╕реЗрдЯрд╡рд░ рд╡рд╛рдкрд░реВрди рдкрд╣рд╛.

рд╡реНрдпрд╛рдЦреНрдпрд╛рдирд╛рдирдВрддрд░рдЪреА рдкреНрд░рд╢реНрдирдордВрдЬреБрд╖рд╛

рдкреБрдирд░рд╛рд╡рд▓реЛрдХрди рдЖрдгрд┐ рд╕реНрд╡-рдЕрднреНрдпрд╛рд╕

The Unreasonable Effectiveness of Recurrent Neural Networks рд╣рд╛ рдмреНрд▓реЙрдЧ рд╡рд╛рдЪрд╛ рдЖрдгрд┐ рддреНрдпрд╛ рд▓реЗрдЦрд╛рддреАрд▓ рдкреБрдвреАрд▓ рд╡рд╛рдЪрди рд╡рд┐рднрд╛рдЧрд╛рддреАрд▓ рд╕рдВрджрд░реНрднрд╛рдВрдЪрд╛ рдЕрднреНрдпрд╛рд╕ рдХрд░рд╛, рдЬреНрдпрд╛рдореБрд│реЗ рддреБрдордЪреЗ рдЬреНрдЮрд╛рди рдЕрдзрд┐рдХ рд╕рдЦреЛрд▓ рд╣реЛрдИрд▓.

рдЕрд╕рд╛рдЗрдирдореЗрдВрдЯ

рдпрд╛ рдзрдбреНрдпрд╛рдЪреНрдпрд╛ рдЕрд╕рд╛рдЗрдирдореЗрдВрдЯрдордзреНрдпреЗ, рддреБрдореНрд╣рд╛рд▓рд╛ рд╡реИрджреНрдпрдХреАрдп рдШрдЯрдХ рдУрд│рдЦрдгреНрдпрд╛рд╕рд╛рдареА рдореЙрдбреЗрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреНрдпрд╛рд╡реЗ рд▓рд╛рдЧреЗрд▓. рдпрд╛ рдзрдбреНрдпрд╛рдд рд╡рд░реНрдгрди рдХреЗрд▓реНрдпрд╛рдкреНрд░рдорд╛рдгреЗ LSTM рдореЙрдбреЗрд▓ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рджреЗрдКрди рд╕реБрд░реБрд╡рд╛рдд рдХрд░рд╛ рдЖрдгрд┐ рдирдВрддрд░ BERT рдЯреНрд░рд╛рдиреНрд╕рдлреЙрд░реНрдорд░ рдореЙрдбреЗрд▓ рд╡рд╛рдкрд░рдгреНрдпрд╛рдЪрд╛ рдкреНрд░рдпрддреНрди рдХрд░рд╛. рд╕рд░реНрд╡ рддрдкрд╢реАрд▓ рдорд┐рд│рд╡рдгреНрдпрд╛рд╕рд╛рдареА рд╕реВрдЪрдирд╛ рд╡рд╛рдЪрд╛.