Azure OPENAI nedir?
Azure OpenAI, Microsoft’un bulut bilişim platformu olan Azure üzerinde çalışan OpenAI tarafından geliştirilen güçlü yapay zeka hizmetidir. Bu hizmet, OpenAI’nin son teknolojiye sahip dil modellerini, özellikle GPT-4, GPT-35-Turbo ve Embeddings model serilerini sunarak, kullanıcılara büyük veri işleme, dil anlama ve üretme yetenekleri sunuyor.
Bu hizmetin öne çıkan avantajlarından biri, REST API’leri, Python SDK’sı veya web tabanlı Azure OpenAI Studio arayüzü kullanarak bu gelişmiş dil modellerine kolay erişim sağlamasıdır. Bu sayede büyük veri analizi, özetleme, arama ve hatta doğal dilde kod çevirme gibi çeşitli karmaşık görevleri hızlı ve hassas bir şekilde gerçekleştirmek artık mümkün hale gelir.
Azure OpenAI temelinde bulunan modeller nelerdir?
Azure OpenAI servisi temelinde 5 adet yapay zeka modeli bulunmaktadır.
| Modeller | |
| GPT-4 | |
| GPT-3.5 | |
| Embeddings | |
| DALL-E (Önizleme) | |
| Whisper (Önizleme) |
Bu modelleri beraber inceleyelim.
Modeller
GPT-4
GPT-4, OpenAI tarafından geliştirilen ve yapay zeka alanında önemli bir rol oynayan büyük bir dil modelidir.
“GPT”in açılımı “Generative Pre-trained Transformer”dır. (Önceden Eğitilmiş Üreteç Dönüştürücü)
GPT-4, önceki versiyonlarının (örneğin, GPT-3) üzerine inşa edilmiş daha büyük, daha karmaşık ve daha yetenekli bir dil modelidir
GPT-3.5
GPT-3.5 modelleri doğal dili veya kodu anlayabilir ve oluşturabilir. GPT-3.5 ailesindeki en yetenekli ve uygun maliyetli model, sohbet için optimize edilmiş olan ve aynı zamanda geleneksel cümle ve metin tamamlama görevlerinde de iyi çalışan GPT-3.5 Turbo’dur.
GPT-3.5 ile GPT-4 farkını gösteren bir görsel:
Embeddings Models
Embedding modelleri, yapay zeka alanında önemli bir rol oynayan öğrenme temsili (representation learning) yöntemlerinden biridir.
Bu modeller, özellikle metin, görüntü ve ses gibi verileri temsil etmek ve analiz etmek için kullanılır.
Öğrenilen verileri vektörlere çevirerek işliyor. Böylece bir kelimeden sonra gelebilecek kelimeyi vektör yakınlıklarını analiz ederek (örnek verirsek matrislerini alarak) en yakın sonuca göre getiriyor.
Microsoft kendi platformunda önceki gömme modelleri text-embedding-ada-002 adı altında birleştirdi. Çalışma ortamlarınızda bu modeli kullanmanızı şiddetle tavsiye ediyoruz.
DALL-E
DALL·E, OpenAI tarafından geliştirilen ve özellikle metin tabanlı açıklamaları kullanarak görsel içerikler üretebilen yenilikçi bir yapay zeka modelidir.
DALL·E, “GPT-3” modelinin bir türevi olarak ortaya çıkmıştır ve GPT-3’ün metin tabanlı doğal dil işleme yeteneklerini kullanarak metin tabanlı görsel oluşturma yeteneği ekler.
DALL·E’nin özgün özelliği, metin açıklamalarını temel alarak çeşitli görsel içeriklerin üretilmesini sağlayabilmesidir.
Whispers
OpenAI Whisper, OpenAI tarafından geliştirilen ve otomatik konuşma tanıma (ASR) sistemi olarak kullanılabilen bir yapay zeka modelidir.
Whisper, 680,000 saatlik çeşitli ve çok dilli konuşma verileri kullanılarak eğitilmiştir.
Otomatik Transkript: Konuşmaları metin formatına dönüştürmek, özellikle toplantılar, röportajlar, dersler ve podcastler gibi içeriklerin daha erişilebilir hale gelmesini sağlar.
İş Süreçleri Otomasyonu: Sesli komutlar veya sesli girdileri iş süreçlerine entegre etmek için kullanılabilir. Örneğin, bir çağrı merkezi uygulamasında müşteri sorularını otomatik olarak metne çevirebilir.
Sesli Asistanlar: Sesli asistanlar ve sanal asistanlar için temel bir bileşen olabilir, böylece kullanıcıların sesli komutları ve soruları anlayabilir ve yanıtlayabilir.
Veri Analizi: Ses kayıtları üzerinde analiz yapmak ve bu kayıtlardan değerli bilgiler elde etmek için kullanılabilir.
Azure OpenAI servisi ile neler yapabilirim?
Azure OpenAI servisi altında çalışan 3 temel servis vardır.
- CHAT BOT
- COMPLETIONS
- DALL-E
ChatBot Servisi
Azure OpenAI Chat Bot Servisi, OpenAI’nin güçlü doğal dil işleme yeteneklerini kullanarak sohbet botları oluşturmanıza ve entegre etmenize olanak tanıyan bir hizmettir. Modeller kısmında bahsettiğimiz GPT modellerini baz alarak bu işlemleri yapar. (Türkçe dil desteği bulunmaktadır.)
Peki neler yapabiliyorum?
Öncelikle OpenAI Studio giriş yapıyoruz. (https://oai.azure.com/portal) Giriş yaptığımız zaman sağ panelden Chat Bot servisinin üzerine tıklıyoruz ve bizi bir chat bot arayüzü karşılıyor. Burada GPT modeli ile karşı karşıyayız kendisine istediğimiz soruları sorabiliriz.
Ben bu botu özelleştirmek istiyorum diyorsanız “system message” sekmesinden bota yapması gereken işleri öğretebilirsiniz.Örnek: Bankaya hizmet etmesi için chat bota sistem mesajlarını yazalım. Buraya yazdıklarımı bot yapması gereken iş olarak algılar. Bota kim olduğunu ve neler yapması gerektiğini burada belirtebilirim.
“System Message” sekmesine:
“Merhaba, Ben bir X bankası yapay zeka asistanıyım ve size yardımcı olmaktan mutluluk duyarım. Size daha iyi yardımcı olabilmem için bazı bilgilere ihtiyacım var. İşte sormak istediğim bilgiler:
Adınız ve Soyadınız
Müşteri numaranız (varsa)
Sormak istediğiniz konu veya sorunuz”
Şeklinde bir girdi yazarsam artık bu bot kendisinin X bankası asistanı olduğunu ve işlem yapabilmesi için müşterilerden alması gereken bilgileri biliyor. Bunun gibi bota görev ve sorumluluklarını öğretebilirsiniz.
Kendi Verinizi Getirin!
Ee şimdi akla şu soru geldi: “Benim şirket verilerimi buraya eklemedik nasıl yardımcı olacak?
Evet “Add your data” kısmından kendi verilerinizi buraya ekleyerek Chat Botun faydalanmasını sağlayabilirsiniz. Veriler buraya işlendikten sonra Chat Bot gelen istekleri datalarınız içerisinde arar ve ilgili cevabı bulunca kaynakça göstererek cevabı iletir. “Azure Cognitive Search” servisi ile de entegre edilebilir. Böylece Azure üzerine aldığımız verileri ya da SQL ortamlarında barındırılan bir veriyi buraya aktarmak mümkün.
ChatBot’unuzu Yayınlayın
Artık herşeyiniz hazır ve botunuzu oluşturdunuz. Bunu şirket içi ya da public olarak yayınlayabilirsiniz. Azure üzerinde 5dk da bir “web app” olarak yayınlayabilir ve kullanıcılarınıza bir web sitesi olarak sunabilirsiniz.
Bunlara ek olarak API’ler yardımı ile bu servisi kendi ortamınıza çekerek verilerinizi işletebilirsiniz.
Parametreler
Şunu unutmamak lazım ki bu servisi kullanırken en önemli şey parametre ayarlarını doğru şekilde yapmaktır. Bu parametre ayarları servisin ana veriye ne kadar sadık kalacağı ne kadar yaratıcı davranacağı kelimeleri ne sıklıkla tekrar edeceği gibi birçok özelliği barındırmaktadır.
Kısacası ister Chat GPT gibi bir chatbot olarak ister kurumunuza veya datanıza özelleştirilmiş bir chat bot olarak kullanabilirsiniz.
Completions Servisi
Azure OpenAI Completions, metin tabanlı görevler için kullanılabilen bir yapay zeka hizmetidir.
Metin üretimi, çeviri, özetleme, soru-cevap oluşturma ve dil modelleri eğitme gibi işlemleri yapabilir.
Bu hizmet, metin tabanlı uygulamalar geliştirmek isteyenler için büyük fayda sağlar. CHAT BOT servisinde olduğu gibi bir paneli vardır ve buraya tamamlanmasını istediğiniz veriyi girerseniz Completions servisinde bu veriyi tamamlar. Verileri Türkçe olarak girip yanıtları Türkçe alabilirsiniz. Daha verimli çalışması için örnek vermenizde fayda vardır. Mesela soru hazırlamak için bir eğitim metni verdikten sonra bu metinden 1 adet soru çıkartıp soruyu Completions servisine yazarsam amacımı daha iyi anlayıp o metinden benim çıkardığım soru gibi farklı sorular çıkartıp bana sunacaktır.
Dokümantasyon Oluşturma:
Örnek: Bir yazılım şirketi, yeni bir yazılım ürününün dokümantasyonunu hazırlamak için Completions servisini kullanabilir. Kullanıcılar, bir komutun açıklamasını girdiklerinde, servis bu açıklamayı zenginleştirebilir veya tamamlayabilir.
Yazılı İçerik Üretimi:
Örnek: Bir içerik pazarlama ajansı, belirli bir konu hakkında bir blog gönderisi yazarken Completions servisini kullanabilir. İçerik başlığı verildiğinde, servis içerik önerileri sunabilir ve paragraf eksikliklerini tamamlayabilir.
Soru Cevaplama Sistemi:
Örnek: Bir eğitim kurumu, öğrencilerin sıkça sorduğu sorulara hızlı yanıtlar sunmak için Completions servisini kullanabilir. Öğrenci sorusu metin olarak girildiğinde, servis uygun bir yanıt üretebilir.
Yapay Zeka ve Otomasyon:
Örnek: Bir finansal kuruluş, müşteri taleplerini daha hızlı işlemek ve müşteri hizmetlerini geliştirmek için Completions servisini kullanabilir. Müşteri talebi metin olarak verildiğinde, servis işleme yönergeleri ve yanıt şablonları oluşturabilir.
Bu birkaç örnek, Completions servisinin çeşitli endüstriler ve uygulama alanlarında kullanılabileceğini göstermektedir. Servis, metin tabanlı görevleri hızlandırmak, içerik üretmek, soruları yanıtlamak ve otomasyonu geliştirmek için büyük bir esneklik sunar.
DALL-E Servisi
DALL·E, metin açıklamalarını kullanarak kısa sürede görsel içerikler oluşturabilir.
Görselde görüldüğü gibi “promt” kısmına girilen veriyi görselleştirdi. Tek seferde bir promt için aynı anda en fazla 3 adet görsel oluşturabilir. İşlem tamamlandıktan sonra beğenmediğiniz görseli yeniden oluştur diyebilirsiniz. (Türkçe dil desteği bulunmaktadır.)
Azure OpenAI’ye nasıl erişebilirim?
Azure OpenAI hizmetine yoğun talep ve Microsoft’un sorumlu yapay zeka taahhüdü nedeniyle erişim şu an sınırlıdır. Erişim için aşağıdaki başvuru formunu kullanabilirsiniz. Başvurunuz onaylandıktan sonra “Azure OpenAI servisine hoş geldiniz” şeklinde bir mail alacaksınız.
*Başvuru için mevcutta bir Azure aboneliğinizin olması gerekmektedir.