GenAIOps Enablement with Red Hat AI Enterprise (AI501) Azerbaijan Eğitimi

Generative AI uygulamalarını production ortamında güvenilir, ölçeklenebilir ve sürdürülebilir biçimde geliştirmek, devreye almak ve işletmek için gerekli GenAIOps yaklaşımını öğrenin. 

GenAIOps Enablement with Red Hat AI Enterprise (AI501), ekiplerin üretken yapay zeka vizyonlarını somut uygulamalara dönüştürmesine yardımcı olmak üzere tasarlanmış, beş günlük yoğun ve uygulamalı bir eğitim programıdır.

Birçok AI eğitimi yalnızca belirli bir framework veya teknolojiye odaklanırken AI501, Generative AI Operations sürecini uçtan uca ele alır. Eğitimde yalnızca model değil, AI destekli uygulamanın tamamı teslimat birimi olarak değerlendirilir. Böylece prompt geliştirmeden production deployment'a, değerlendirmeden gözlemlenebilirliğe ve Day-2 operasyonlarına kadar tüm yaşam döngüsü birlikte ele alınır.

Program farklı ekip ve rollerin birlikte çalışmasını teşvik eder. AI mühendisleri, uygulama geliştiricileri, platform mühendisleri, mimarlar ve IT yöneticileri kendi uzmanlık alanlarının dışına çıkarak ortak bir AI uygulamasının geliştirilmesi ve işletilmesi sürecinde birlikte çalışır.

Günlük çalışma düzeni gerçek bir delivery team yapısını simüle eder. Katılımcılar iş birliği, ortak sorumluluk ve standartlaştırılmış süreçlerin GenAI projelerinde nasıl daha güvenilir ve tekrar edilebilir sonuçlar oluşturduğunu uygulamalı olarak deneyimler.

Eğitim Red Hat AI Enterprise temel alınarak hazırlanmıştır ve Red Hat OpenShift AI, Red Hat OpenShift GitOps, Red Hat OpenShift Pipelines, generative AI modelleri ve açık kaynak kütüphanelerini kapsar.

Kurumlara Sağladığı Katkılar

Generative AI projelerinde kurumlar genellikle farklı ekiplerin farklı araçlar kullanması, prompt ve configuration drift, yapılan değişikliklerle birlikte ortaya çıkan kalite gerilemeleri, kontrolsüz grounding nedeniyle hallucination sorunları, prompt injection ve zararlı içerik gibi güvenlik riskleri ile öngörülemeyen latency ve maliyet problemleri yaşayabilir.

GenAIOps bu sorunlara daha standart ve yönetilebilir bir yaklaşım getirir.

AI501 kapsamında ele alınan yaklaşımlar sayesinde kurumlar:

• Prompt ve configuration'ları code olarak yönetebilir.
• Değişiklikleri version control süreçlerine dahil edebilir.
• Continuous automated evaluation uygulayabilir.
• RAG kullanımını governance altında yönetebilir.
• Safety guardrail'lerini platform seviyesinde uygulayabilir.
• AI uygulamalarını uçtan uca observability ile takip edebilir.
• Prototype seviyesindeki GenAI uygulamalarını daha kontrollü şekilde production ortamına taşıyabilir.

Eğitim, GenAI uygulama lifecycle'ını prompt ve configuration versioning'den deployment, continuous evaluation ve Day-2 operasyonlarına kadar gerçek dünya yaklaşımıyla ele alır.

Katılımcılara Sağladığı Kazanımlar

AI501 eğitimini tamamlayan katılımcılar, GenAI platform yaklaşımını ve Red Hat AI Enterprise'ın GenAIOps ekosistemindeki konumunu daha kapsamlı biçimde öğrenir.

Katılımcılar eğitim sonunda:

• GenAI uygulamalarının uçtan uca yaşam döngüsünü anlayabilir.
• Prompt geliştirme ve değerlendirme süreçlerini sistematik hale getirebilir.
• RAG tabanlı uygulamalar oluşturabilir.
• Tool-calling kullanan AI agent'lar geliştirebilir.
• AI güvenliği için guardrail ve security mekanizmaları uygulayabilir.
• GenAI sistemlerinde metrics, logs ve tracing kullanabilir.
• Model optimizasyon yöntemlerini değerlendirebilir.
• MaaS yaklaşımı ile AI modellerinin ölçeklenebilir sunumunu planlayabilir.
• AI uygulamalarını prototype aşamasından production'a taşıyabilir.
• Production ortamındaki AI uygulamalarının güvenilirliğini ve sürdürülebilirliğini yönetmek için GenAIOps pratiklerini kullanabilir.

Önerilen Sonraki Eğitimler

AI501 sonrasında farklı uzmanlık alanlarına göre aşağıdaki eğitimler önerilebilir:

• MLOps Practices with Red Hat OpenShift AI (AI500) – Predictive AI ve machine learning modelleriyle çalışan ekipler için,
• Red Hat OpenShift Administration II: Configuring a Production Cluster (DO280) – OpenShift platform yönetiminde daha ileri beceriler kazanmak isteyen platform mühendisleri için.

Katılımcıların aşağıdaki hazırlıklara sahip olması önerilir:

• Eğitimin yetkinlik seviyenize uygunluğunu değerlendirmek için Red Hat'in ücretsiz skills assessment uygulamasının tamamlanması,
• Chromium tabanlı bir web browser,
• Containers, Kubernetes and Red Hat OpenShift Technical Overview (DO080) eğitimi veya OpenShift, Kubernetes ve container teknolojileri hakkında temel bilgi,
• AI teknolojileri veya AI'ın iş süreçlerine nasıl değer sağlayabileceği konusunda temel düzeyde anlayış.

AI501, bir AI destekli uygulamayı fikir ve prompt aşamasından production ortamına kadar uçtan uca ele alır.

Eğitim kapsamında katılımcılar:

• Token, context window ve model behavior gibi GenAI temel kavramlarını öğrenir.
• Prompt'lar üzerinde deneyler yapar ve ilk AI destekli uygulamasını değerlendirir.
• Standart GenAI geliştirme süreçleri için bir orchestration layer kullanır.
• Bilgiyle zenginleştirilmiş uygulamalar için Retrieval Augmented Generation (RAG) uygular.
• Tool-calling yeteneklerine sahip autonomous AI agent'lar oluşturur.
• AI safety guardrail'leri ve GenAI security pratiklerini uygular.
• Metrics, logging ve distributed tracing ile GenAI sistemlerine observability kazandırır.
• Small Language Model ve multimodal model yeteneklerini inceler.
• Quantization ve compression yöntemleriyle model optimizasyonu gerçekleştirir.
• Ölçeklenebilir AI altyapısı için Models as a Service (MaaS) yaklaşımını uygular.

Temel Konular

GenAI Temelleri

GenAIOps kavramını ve Large Language Model'ların temel çalışma yaklaşımını inceleyin.

Tokenization, context window ve model davranışını etkileyen temel faktörleri öğrenin. Model output'larının performans ve davranış açısından nasıl şekillendiğini anlamaya başlayın.

Prompt'larla Deney Yapma

Etkili prompt oluşturma tekniklerini öğrenin.

System prompt ve user prompt kavramlarını kullanın, temperature ve output parametrelerini yapılandırın ve farklı kullanım senaryolarına uygun prompt optimizasyonu gerçekleştirin.

İlk AI Destekli Uygulamanın Değerlendirilmesi

Prompt versioning yaklaşımını uygulayın ve uygulama kalitesini sistematik biçimde ölçmek için evaluation pipeline'ları oluşturun.

Test süreçlerini otomatikleştirin ve prompt ya da configuration değişikliklerinin kalite üzerindeki etkilerini ölçülebilir hale getirin.

Orchestration Layer'a Giriş

GenAI uygulamalarının daha standart bir mimari ile geliştirilmesi için orchestration layer yaklaşımını inceleyin.

Backend servislerini deploy edin ve sürekli deployment süreçleri için GitOps pratiklerini uygulayın.

İleri Konular

Integration ve Orchestration

Vector database'leri deploy edin ve bilgiyle zenginleştirilmiş AI uygulamaları için RAG pipeline'ları oluşturun.

Tool calling mekanizmalarını kullanarak harici sistemlerle etkileşime geçebilen autonomous AI agent'lar geliştirin.

Safety ve Observability

AI safety guardrail'lerini devreye alın ve GenAI security yaklaşımını uygulayın.

GenAI sistemlerinin davranışını takip etmek için observability'nin üç temel bileşeni olan metrics, logs ve traces yapılarını kullanın.

Modelleme Teknikleri

Daha verimli deployment senaryoları için Small Language Model'ları inceleyin.

Farklı veri tiplerini işleyebilen multimodal model yeteneklerini değerlendirin ve farklı kullanım senaryolarında bu modellerin nasıl konumlandırılabileceğini keşfedin.

Optimizasyon ve Deployment

Model performansını ve kaynak kullanımını iyileştirmek için quantization ve compression tekniklerini uygulayın.

Fine-tuning yaklaşımlarını inceleyin, Models as a Service (MaaS) mimarisini değerlendirin ve eğitim boyunca geliştirilen tüm bileşenleri production deployment içerisinde bir araya getirin.