分類
好用軟體

gpt-oss開源模型動手玩

OpenAI 公佈兩個 gpt 開源模型:

  • gpt-oss-120b
  • gpt-oss-20b

可以參考這篇管方資料:

https://openai.com/zh-Hant/index/introducing-gpt-oss/

最方便下載來玩的方式是使用 ollama (可以參考之前這篇介紹: https://diary.tw/archives/2609)

由於 ollama 在之前的更新, 已經提供在 GUI 上直接選擇模型並進行問答, 所以在更新後的 ollama 介面上可以看到 gpt-oss-20b:

當然也還是可以使用 console 執行, 使用指令 ollama run gpt-oss

C:\Users\tim>ollama run gpt-oss
pulling manifest
pulling b112e727c6f1: 100% ▕██████████████████████████████████████████████████████████▏  13 GB
pulling fa6710a93d78: 100% ▕██████████████████████████████████████████████████████████▏ 7.2 KB
pulling f60356777647: 100% ▕██████████████████████████████████████████████████████████▏  11 KB
pulling d8ba2f9a17b3: 100% ▕██████████████████████████████████████████████████████████▏   18 B
pulling 55c108d8e936: 100% ▕██████████████████████████████████████████████████████████▏  489 B
verifying sha256 digest
writing manifest
success
>>> /show info
  Model
    architecture        gptoss
    parameters          20.9B
    context length      131072
    embedding length    2880
    quantization        MXFP4

  Capabilities
    completion
    tools
    thinking

  Parameters
    temperature    1

  License
    Apache License
    Version 2.0, January 2004
    ...

>>> Send a message (/? for help)

接下來就可以在本地執行這個 OpenAI 的開源 gpt 模型了.