運算語言學

語言學系列（大綱）
語言（自然語言 · 人造語言 · 形式語言） · 語言學史 · 語言學家（一覽）
語言學領域 描述同規範語言學 理論同應用語言學 語音學（語言聲學 · 發聲 · 聽覺）同音系 構詞學 辭典學 句法學 語義學 語用學 歷史語言學（比較語言學） 計量語言學 描述語言學同規範語言學 心理語言學同神經語言學 社會語言學 語言習得（第二語言） 生成語言學 認知語言學 神經語言學 運算語言學 共時語言學 對照語言學 文體學 規範語言學 語源學 語料庫語言學 正字法
拉雜相關 生成文法 未解決嘅語言學問題 自然語言處理 社會科學同人文學
Portal

運算語言學wan6 syun3 jyu5 jin4 hok6（computational linguistics）係語言學嘅一門，專用電腦模擬噉嘅運算方法嚟研究語言。

語言模型

語言模型（language model）係一種「模擬」語言嘅數學模型。一個語言模型通常會源自畀電腦讀取大量嘅語料，形成一個概率分佈；數學化啲噉講，即係話一個語言模型能夠畀到

$\Pr(w_{1},\ldots ,w_{m})$（一句句子啲字係 $w_{1},\ldots ,w_{m}$ 嘅機率）

$\Pr(w_{5}|w_{1},\ldots ,w_{4})$（已知句句子啲字係 $w_{1},\ldots ,w_{4}$，下一隻字係 $w_{5}$ 嘅機率）

... 等嘅數值，當中啲機率數值好多時係靠人工神經網絡計出嚟嘅。例如好出名嘅 ChatGPT 就係一個語言模型。

睇埋

• 自然語言處理