ChatGPT GPT-OSS

האתר עוסק במודל החדש GPT-OSS של OpenAI סדרת מודלים קוד פתוח שפורסמה לראשונה ב-2025, המהווה שינוי גדול בעולם הבינה המלאכותית.

מה זה GPT-OSS?

• GPT-OSS הוא משפחת מודלים גדולים (LLM) מבית OpenAI, אשר סוף סוף זמינים בקוד פתוח (open weights) עם רישיון Apache 2.0 להבדיל ממודלי GPT-3, GPT-4 ודומיהם שהיו סגורים לגמרי.
• התמקדות המודלים: סיוע מוכוון הוראות (instruction-following), שרשורי מחשבה (“Chain-of-thought”), תמיכה ביצירת כלים ובפורמטים דיאלוגים מתקדמים.
• ביצועים: GPT-OSS-120B מתקרב לרמת היכולות של המודל GPT-4o-mini ואף עוקף אותו בכמה משימות חשיבה, קידוד וביצוע פונקציות אוטונומיות.
• ישנם שני דגמים עיקריים:
  • GPT-OSS-20B: דגם קטן ויעיל, רץ על מחשב אישי ב-16GB VRAM.
  • GPT-OSS-120B: דגם מתקדם וחזק, דורש חומרה מתקדמת (H100 או מספר GPUs), אבל מעניק ביצועים בלתי מתפשרים.

יתרונות עיקריים

• קוד פתוח עם רישיון חופשי: אפשר לשנות, להפעיל ולדגום את המודלים באופן מקומי, בלי תלות בשרתים של OpenAI ובלי מגבלות API.
• פרטיות ושליטה מלאה: ניתן להרצה על כל מחשב, שרת או ענן, עם שליטה מלאה על המידע והעלות.
• מהירות וגמישות: אפשר להריץ את המודלים בעשרות פלטפורמות וכלים פופולריים (כמו Hugging Face, Llama.cpp, vLLM, Ollama).

חסרונות או מגבלות

• הדגם המתקדם דורש חומרה חזקה במיוחד, אך ניתן להשתמש בגרסה הקטנה.
• לא כל הפיצ’רים של ChatGPT זמין במודל הקוד הפתוח— נדרש לעיתים קונפיגורציה והבנה טכנית.