Meta 用閒置 AI 推論算力做廣告推薦：RMA 與 SBM 如何運作

一分鐘摘要

Meta 公開一套已運行的廣告推薦系統

Meta 在 2026 年 10 月 12 日發表技術文章，介紹如何將旗下暫時閒置的 AI 推論算力，用於廣告推薦。文章談的是廣告推薦系統內部的容量調配，沒有公布 Ads Manager 新設定。

Meta 稱，系統已在其規模下運行，目的是在不額外訂購算力的情況下，評估更多候選廣告，或讓部分請求交由較強模型處理。文章表示，這有助用戶看到更相關的廣告，也改善廣告主結果；但沒有公布這套系統對轉換率或廣告成本的量化影響。

推論系統要為流量高峰預留容量，實際需求卻隨時段和地區變動。不同工作亦要配合 CPU、AI 加速器及特定硬件型號；即使某處仍有加速器餘量，也未必有足夠的 CPU 讓原有工作增加。Meta 指出，模型開發與新算力交付時間不一致，也會令部分資源短暫空置。

Meta 將各團隊暫時用不上的容量，邏輯上匯成共享算力池。資源仍由原團隊擁有；原本工作要用時，可以隨時收回。所以，廣告推薦新增的工作必須能快速增減，不能佔用原有服務預留的容量。

Meta 要在不足一秒內，從數百萬個候選廣告中選出少數幾個。推薦系統會經過多個排名階段；越後段使用的模型越強，評估的候選廣告則越少。

Rank More Ads（RMA）在有額外資源時，增加進入排名階段的候選數量，藉此提高找到相關廣告的機會。這不代表向用戶展示更多廣告，而是讓系統在作出展示決定前，多評估一些選項。

額外候選廣告會增加上游檢索和特徵處理的 CPU 工作，也增加後續模型推論工作。所以，Meta 指 RMA 一般同時需要 CPU 和 AI 加速器有餘量。系統亦會參考實際延遲時間調整候選數量：延遲低於目標時增加，延遲升高時減少。

Serve Better Models（SBM）維持進入排名階段的候選廣告數量，改變的是有多少請求交由較強模型評估。較強模型可能提高預測準確度，但 Meta 沒有將所有請求一律交給它處理。

由於候選數量保持不變，上游 CPU 工作不會明顯增加。這令 SBM 可以利用只有 AI 加速器有餘量、CPU 沒有餘量的情況。Meta 的模型路由器會參考請求價值訊號，優先處理預計較能從較強模型受益的請求；其分配亦會隨容量和量度結果調整。

這套設計的前提是保護原有服務。Meta 表示，SBM 的基礎模型與較強模型使用分開的路由目標；當共享池縮小，部分請求會返回原本已有容量處理的基礎模型。RMA 則按可用容量限制新增的候選廣告工作，避免額外工作擠佔原有流量。

兩條路線各有控制迴路，持續調整 RMA 的候選數量和 SBM 使用較強模型的比例。中央控制需要時間傳達新目標；若算力突然被收回，伺服器和客戶端會先削減價值較低的額外工作。Meta 稱，這層保護能在數毫秒內反應，讓系統維持原有服務的延遲和可靠性目標。

Meta 在文章中稱這套系統改善了廣告主結果，但未提供這套系統的轉換率、每次轉換成本或廣告回報數字。所以，不能單憑這篇技術文章，推算個別廣告帳戶會升多少、成本會降多少。文章也沒有提供讓廣告主自行調整的設定；評估自己帳戶的成效，仍要看實際廣告數據。