AI Fundamentals

Transformer 架構

Transformer 係 2017 年由 Google 提出嘅神經網絡架構，透過「自注意力機制」理解文本中詞語之間嘅關係。佢係所有現代 LLM 嘅基礎，包括 GPT、BERT、Gemini 等。

點解對 AEO 重要

Transformer 嘅自注意力機制令 AI 可以理解長距離嘅語義關係。呢個意味住你嘅內容唔需要喺每個段落重複關鍵字——AI 可以理解整篇文章嘅語境。優化策略應該專注喺語義連貫性同主題深度。

實際例子

  1. 1GPT 全稱 Generative Pre-trained Transformer，直接以呢個架構命名
  2. 2BERT (Bidirectional Encoder Representations from Transformers) 用喺 Google 搜尋
  3. 3Google 嘅 T5 模型用 Transformer 做文本摘要同翻譯

相關術語

大型語言模型 (LLM)神經網絡分詞 / Token 化上下文窗口

常見問題

AC

AEO 策略總監 | SurfIO 創辦人

7+ 年數碼營銷經驗 | HKSTP Ideation Programme

分享
呢篇文章有用嗎？
HKSTP 創業
HKSTP 支持
Tech+
Techathon+ 得獎
SOC2
數據安全

AEO 準備度評分

2 分鐘測試你嘅業務 AI 搜尋準備度

步驟 1 / 425%

你嘅行業

揀你嘅行業以獲得個人化評分