【第29回】「モデル蒸留」とは――巨大AIの“賢さのエッセンス”を小さなAIに引き継ぐ技術(1/2)

ウイスキー作りなどで聞いたことがある用語かもしれません「蒸留」。AIの場合、巨大モデルが持つ能力の要点を、小さなモデルに学ばせることをいいます（筆者がChatGPTで生成）