#grokaem_собес #grokaem_nlp Я собрала 100 вопросов по NLP, которые мне задавали или задавала я. Надеюсь, что они будут полезны, чтобы освежить в памяти важные моменты. *Notion будет пополняться* Notion русская версия В составлении вопросов помогали: ds girl канал Плюшевый Питон Alexander Babiy канал что-то на DL-ском канал Dealer.AI канал алиса олеговна Часть вопросов: 8. Объясните разницу между косинусной близостью и косинусным расстоянием. Какое из этих значений может быть негативным? Как вы будете их использовать? 21. Что такое negative sampling и зачем он нужен? 30. Что такое затухающие градиенты для RNN? 41. Что используется в трансформере layer norm или batch norm и почему? 55. Объясните подходы для позициональных эмбеддингов и их плюсы и минусы. 75. В чем отличие оптимизатора Adam от AdamW? 86. Объясните концепции metric learning. Какие подходы вам известны? 88. Объясните виды sampling при генерации? top-k, top-p, nucleus sampling? 92. В чем отличие prefix tuning от p-tuning и от prompt tuning? 98. Объясните принцип работы KV cache, Grouped-Query Attention и MultiQuery Attention.