Bugün, ilk geliştirici konferansında OpenAI, amiral gemisi metin üreten yapay zeka modeli GPT-4'ün geliştirilmiş bir versiyonu olan ve şirketin hem daha güçlü hem de daha ucuz olduğunu iddia ettiği GPT-4 Turbo'yu tanıttı.
GPT-4 Turbo'nun iki versiyonu mevcuttur: Biri tamamen metin analizi yapan bir sürüm, hem de metin ve görsellerin bağlamını anlayan ikinci bir versiyon. Metin analiz modeli bugünden itibaren bir API aracılığıyla ön izleme olarak sunuluyor ve OpenAI, her ikisini de önümüzdeki haftalarda genel kullanıma sunmayı planladığını söylüyor.
Fiyatlandırması 1.000 giriş jetonu (~750 kelime) başına 0,01 ABD dolarıdır; burada jetonlar ham metin parçalarını temsil eder - örneğin fan, tas ve tic olarak ayrılan fantastik kelimesi) ve 1.000 çıkış jetonu başına 0,03 ABD doları. ( Giriş jetonlar modele beslenen jetonlardır; çıktı jetonlar, modelin giriş jetonlarına göre oluşturduğu jetonlardır.) Görüntü işleyen GPT-4 Turbo'nun fiyatlandırması, görsel boyutuna bağlı olacaktır. Örneğin OpenAI, 1080×1080 piksellik bir görüntüyü GPT-4 Turbo'ya aktarmanın 0,00765 dolara mal olacağını söylüyor.
OpenAI, GPT-4 Turbo'yu GPT-4'e kıyasla girdi tokenları için 3 kat, çıktı tokenleri için ise 2 kat daha ucuz fiyata sunabilmek için performansı optimize ettik. Blog yazısı Bu sabah Gadget Insider ile paylaşıldı.
GPT-4 Turbo, GPT-4'e göre çeşitli iyileştirmelere sahiptir; bunlardan biri, isteklere yanıt verirken yararlanılabilecek daha yeni bir bilgi tabanıdır.
Tüm dil modelleri gibi, GPT-4 Turbo da esas olarak kelimeleri tahmin etmeye yönelik istatistiksel bir araçtır. Çoğunlukla web'den olmak üzere çok sayıda örnekle beslenen GPT-4 Turbo, çevreleyen metnin anlamsal bağlamı da dahil olmak üzere kelimelerin kalıplara göre oluşma olasılığının ne kadar yüksek olduğunu öğrendi. Örneğin, İleriye Bakıyorum… parçasıyla biten tipik bir e-posta verildiğinde, GPT-4 Turbo bunu … geri duymakla tamamlayabilir.
instagram konuları nelerdir
GPT-4, Eylül 2021'e kadar web verileriyle eğitildi, ancak GPT-4 Turbo'nun bilgi sınırı Nisan 2023'tür. Bu, son olaylarla (en azından yeni son tarihten önce meydana gelen olaylar) ilgili soruların sonuç vereceği anlamına gelmelidir. daha doğru cevaplar.
GPT-4 Turbo'nun ayrıca genişletilmiş bir bağlam penceresi vardır.
Belirteçlerle ölçülen bağlam penceresi, modelin herhangi bir ek metin oluşturmadan önce dikkate aldığı metni ifade eder. Küçük bağlam pencerelerine sahip modeller, en son konuşmaların içeriğini bile unutmaya eğilimlidir ve bu da onların konudan sapmasına yol açar; çoğu zaman sorunlu yollardan.
GPT-4 Turbo, 128.000 jetonluk bir bağlam penceresi sunuyor; GPT-4'ün dört katı büyüklüğünde ve ticari olarak satılan herhangi bir modelin en büyük bağlam penceresi, Anthropic'inkini bile geride bırakıyor Claude 2 . (Claude 2, 100.000'e kadar jetonu destekler; Anthropic, 200.000 jetonluk bir bağlam penceresiyle denemeler yaptığını iddia ediyor ancak bunu henüz kamuya açıklamadı.) Aslında, 128.000 jeton, yaklaşık 100.000 kelimeye veya 300 sayfaya karşılık gelir; bu, referans olarak yaklaşık uzunluktur. Uğultulu Tepeler, Gulliver'in Gezileri ve Harry Potter ve Azkaban Tutsağı.
Ve GPT-4 Turbo, modelin geçerli bir şekilde yanıt vermesini sağlayan yeni bir JSON modunu destekler. JSON — açık standart dosya formatı ve veri değişim formatı. OpenAI, bunun, bir sunucudan istemciye veri göndererek bir web sayfasında görüntülenmesini sağlayanlar gibi veri ileten web uygulamalarında yararlı olduğunu söylüyor. İlgili diğer yeni parametreler, geliştiricilerin modelin daha sık ve tutarlı tamamlamalar döndürmesini ve - daha niş uygulamalar için - mümkün olmasını sağlayacak. olasılıkları günlüğe kaydet GPT-4 Turbo tarafından oluşturulan en muhtemel çıktı tokenları için.
OpenAI, GPT-4 Turbo'nun, belirli formatlar oluşturmak (örneğin 'her zaman XML'de yanıt vermek' gibi) gibi talimatların dikkatle takip edilmesini gerektiren görevlerde önceki modellerimizden daha iyi performans gösterdiğini yazıyor. Ve GPT-4 Turbo'nun doğru işlev parametrelerini döndürme olasılığı daha yüksektir.
GPT-4 yükseltmeleri
OpenAI, GPT-4 Turbo'yu kullanıma sunarken GPT-4'ü ihmal etmedi.
Bugün şirket, GPT-4'te ince ayar yapmak için deneysel bir erişim programı başlatıyor. Şirket, GPT-4'ün öncülü olan GPT-3.5'e yönelik ince ayar programının aksine, GPT-4 programının, esas olarak teknik engellerden dolayı OpenAI ekipleri tarafından daha fazla gözetim ve rehberlik içereceğini söylüyor.
OpenAI blog yazısında, ön sonuçların, GPT-4 ince ayarının, GPT-3.5 ince ayarıyla elde edilen önemli kazanımlara kıyasla temel model üzerinde anlamlı iyileştirmeler elde etmek için daha fazla çalışma gerektirdiğini gösterdiğini yazıyor.
Başka bir yerde OpenAI, ödeme yapan tüm GPT-4 müşterileri için dakika başına jeton oranı sınırını iki katına çıkardığını duyurdu. Ancak fiyatlandırma, giriş jetonu başına 0,03 ABD doları ve çıktı jetonu başına 0,06 ABD doları (8.000 jetonluk bağlam penceresine sahip GPT-4 modeli için) veya giriş jetonu başına 0,06 ABD doları ve çıktı jetonu başına 0,012 ABD doları (32.000 jetonlu GPT-4 için) olarak aynı kalacaktır. belirteç bağlam penceresi).