OpenAI, yakın zamanda GPT-OSS modellerini geliştiricilere açık lisansla sunarak ve yerel cihazlarda çalıştırılabilmesini sağlayarak tanıttı. Bu modellerden GPT-OSS-20B, optimize edilmiş hafif bir versiyon olarak Microsoft’un Windows AI Foundry platformuna entegre edildi. Bu sayede, güçlü donanıma sahip kullanıcılar modeli doğrudan kendi cihazlarında sorunsuz bir şekilde kullanabilirler. Microsoft’un açıklamalarına göre, macOS desteği yakında gelecek ve kesin tarih henüz belirtilmemiş olsa da, bu desteğin ekleneceği duyuruldu.

GPT-OSS-20B modeli, en az 16 GB VRAM içeren ekran kartlarında çalışacak şekilde tasarlandı. Bu, üst düzey Nvidia GPU’ları veya yüksek bellek kapasitesine sahip AMD Radeon kartlarını gerektiriyor. Model, özellikle araç kullanımı ve kod yürütme gibi görevlerde yüksek performans sunuyor. Microsoft, bu modeli yerel çıkarım için önceden optimize ettiğini ve düşük bant genişliği gibi sınırlı koşullarda bile etkili bir şekilde çalıştığını vurguluyor.

Bu model, yapay zeka destekli otonom asistanlar geliştirmek isteyenler veya AI’ı günlük iş akışlarına entegre etmek isteyen geliştiriciler için ideal bir seçenek olarak öne çıkıyor. Ayrıca, Microsoft’un planları arasında daha fazla cihaza destek sağlamak yer alıyor; bu, Copilot Plus PC gibi AI donanımına sahip cihazlar için özel sürümlerin geliştirilebileceği anlamına geliyor. Öte yandan, Amazon da bulut hizmetlerine GPT-OSS desteğini hızla entegre ediyor.

GPT-OSS nedir ve neler sunar? Bu modeller, iki sürümde sunuluyor: GPT-OSS-120B büyük ölçekli sistemlerde kullanılırken, GPT-OSS-20B yerel cihazlarda çalışacak şekilde optimize edildi. Her iki model de Apache 2.0 lisansı altında yayınlandı, bu sayede şirketler bunları ticari projelerde özelleştirerek kullanabiliyor. Modellerin yetenekleri arasında kod yazımı, araç kullanımı, web arama ve temel akıl yürütme gibi görevler yer alıyor. Ancak, yalnızca metin tabanlı çıktı üretme özelliğine sahipler ve halüsinasyon oranları yüksek olabilir; ayrıca görsel veya sesli içerik üretemiyorlar.

• Modellerin ana özellikleri: Kod yazımı ve araç kullanımı için etkili.
• Sınırlılıklar: Yalnızca metin tabanlı, halüsinasyon riski yüksek.