ChatGPT ve benzeri yapay zeka modelleri, eğitim aşamasında akıl almaz miktarda metinle çalışır. GPT-3 modelinin eğitim verisi yaklaşık 300 milyar kelime seviyesindeydi. Daha yeni modellerde bu ölçeğin çok daha yukarı çıktığı biliniyor.
Bir insan ömür boyu kaç kelime okur?
Ortalama bir insan dakikada 200 ila 250 kelime okur. Bir insan hayatı boyunca uyanık olduğu her dakikayı okumaya ayırsa bile yaklaşık 1 milyar kelime civarına ulaşabilir. Yani en tutkulu okur bile, bir yapay zeka modelinin eğitimde işlediği metnin çok küçük bir bölümüne ulaşabilir.
Yapay zeka okuduklarını ezberliyor mu?
Hayır. Model okuduğu her şeyi birebir hafızasında tutmaz. Kelimelerden, cümle yapılarından ve anlam ilişkilerinden istatistiksel örüntüler çıkarır. Hangi kelimeden sonra hangi kelimenin gelme olasılığı yüksektir? Hangi cümle yapısı hangi anlamı taşır? Bu örüntüler modelin içindeki milyarlarca parametrede, yani sayılarda saklanır.
Bir sonraki kelimeyi tahmin etmek
Bir dil modeli temelde tek bir şey yapar: bir sonraki kelimenin ne olma olasılığının en yüksek olduğunu hesaplar. Örneğin “İstanbul, Türkiye’nin…” cümlesinden sonra “en büyük şehridir” yüksek olasılıklı bir devamdır, “başkentidir” ise düşük olasılıklıdır. Model bu olasılıkları hesaplar ve kelime kelime cevap üretir.
Halüsinasyon neden olur?
Yapay zeka bazen var olmayan bir kitap adı verir ya da yanlış bir tarihi gerçek gibi anlatır. Buna halüsinasyon denir. Bu durum bir yazılım hatasından çok, modelin matematiksel doğasının sonucudur. Model elinde net bir bilgi olmasa da istatistiksel olarak en olası görünen cevabı üretmeye çalışır. Bu cevap çoğu zaman doğrudur, ama bazen tamamen yanlış olabilir.
Hangi matematik kullanılıyor?
- Olasılık ve istatistik: Kelime tahmini ve örüntü çıkarımı
- Lineer cebir: Kelimelerin sayı vektörleri olarak temsil edilmesi ve matris çarpımları
- Türev: Modelin hatalarından öğrenmesini sağlayan optimizasyon yöntemleri
Bu konuların temelleri lise matematiğinde atılır. Yapay zeka, veri bilimi ve mühendislik alanlarında kariyer düşünen öğrenciler için matematik bu dünyanın ortak dilidir.
Geoit Akademi ile tanışın
Geoit Akademi, Göktürk’ün merkezinde YKS, Dijital SAT, AP Kalkülüs ve IB Matematik için matematik hazırlığı sunar. Maksimum 6 kişilik özel sınıflar, birebir mentörlük ve düzenli takip ile her öğrencinin süreci kişisel olarak planlanır.
Detaylı bilgi ve ön görüşme için WhatsApp danışma hattımıza yazabilir, 0540 477 05 05 numarasından bize ulaşabilir ya da Geoit Akademi anasayfasını ziyaret edebilirsiniz.
