แบบจำลองภาษาและโครงข่ายประสาทเทียมเชิงลึก การแทนความหมายแบบกระจายและการแทนคำด้วยเวกเตอร์ การลดขนาดมิติด้วยเทคนิค SVD และ การแยกส่วนประกอบเมตริกซ์ การประมวลผลภาษาเชิงโครงข่ายประสาทเทียม แบบจำลองเข้ารหัสถอดรหัส การตัดโทเคนขั้นสูง แบบจำลองแบบเรียงลำดับ ทรานฟอร์มเมอร์และกลไกความสนใจ การถามตอบและการแปลภาษาโดยใช้ทรานฟอร์เมอร์ งานประยุกต์ด้านการประมวลผลภาษาด้วยการเรียนรู้เชิงลึก

Language model and deep neural network; distributional semantics and word embeddings representation, matrix factorization and single value decomposition (SVD) for dimensional reduction; neural natural language processing, encoder-decoder models, advanced tokenization, Seq2Seq models, transformer and attention mechanism; question answering and machine translation using transformer; applications of NLP with deep learning