據(jù)報道，3 月 7 日，AMD 正式宣布用戶可本地運行基于 GPT 的大規(guī)模語言模型 （LLM），打造專屬的AI聊天機器人。該動作，適用于采用全新 AMD XDNA NPU的Ryzen 7000及Ryzen 8000系列APU及內(nèi)嵌AI加速器的Radeon RX 7000系列GPU。

AMD詳述運行步驟，如在搭載70億參數(shù)的Mistral機器上，需尋找并下載“TheBloke / OpenHermes-2.5-Mistral-7B-GGUF”；若選擇運行70億參數(shù)的LLAMA v2，須檢索并下載“TheBloke / Llama-2-7B-Chat-GGUF”。

值得注意的是，AMD并非首家推行此類舉措的廠商。據(jù)了解，近期英偉達（NVIDIA）亦推出了“Chat with RTX”人工智能聊天機器人，利用GeForce RTX 40與RTX 30系列GPU提供TensorRT-LLM功能集服務(wù)，根據(jù)本地化數(shù)據(jù)集快速生成AI結(jié)果。