Large Language Models (LLMs) temeli üzerine geliştirilen Agentic AI sistemlerinin gelişmesiyle birlikte, agent'ların ürettiği aksiyonların güvenlik açısından öngörülemez şekilde evrimleştiğini söyleyebiliriz. LLM'lerin ürettiği text, ses, video ve görsellerin yanı sıra LLM App'lerin de kendine özgü güvenlik zafiyetleri bulunmaktadır.

AI Agent'lar ise LLM'lerden farklı olarak aksiyon seviyesinde güvenlik riskleri oluşturabilir. Bir agent'ın zehirlenmesi, hedefinin değiştirilmesi, kullandığı araçların manipüle edilmesi veya agent'ın kötü niyetli aksiyonlar alması bu riskler arasında yer almaktadır.

Bu eğitimde LLM ve Agentic AI zafiyetlerine uygulamalı olarak odaklanıyoruz. Özellikle yazılım ve mobil güvenlik alanlarında bir standart haline gelen OWASP'ı, LLM ve Agentic AI güvenliği alanında da referans alarak OWASP Machine Learning Security Top 10, OWASP LLM Top 10 ve OWASP Agentic AI Security Top 10 kapsamındaki güvenlik zafiyetlerini derinlemesine inceliyoruz.

Ajan Tabanlı Yapay Zekâ Güvenliği Eğitimi programına Online Instructor-Led (canlı sanal sınıf) veya Classroom Based (sınıf eğitimi) formatlarında doğrudan katılım sağlayabilirsiniz. Ayrıca bu eğitimi kurumunuza özel olarak Online Instructor-Led, Classroom Based veya Onsite (yerinde eğitim) formatlarında, tercih ettiğiniz tarih ve lokasyonda organize edebiliriz. Detaylı bilgi ve kurumunuza özel planlama için bizimle iletişime geçebilirsiniz.

Kurumsal gruplar için bu eğitimi, kurumunuza özel Onsite (yerinde eğitim) formatında organize edebiliriz.

Kimler Katılmalı

Bu eğitim; AI Security, LLM Security ve Agentic AI Security konularını öğrenmek isteyen, yapay zeka sistemlerinin güvenlik zafiyetlerini inceleyen veya bu sistemlerin güvenliği üzerinde çalışan katılımcılara yöneliktir.

Özellikle AI sistemleri, LLM App'ler ve AI Agent'lar üzerinde çalışan; AI Blue Teaming ve AI Red Teaming konularıyla ilgilenen; OWASP Machine Learning Security, OWASP LLM ve OWASP Agentic AI Security zafiyetlerini incelemek isteyen yazılım, yapay zeka ve siber güvenlik alanındaki teknik katılımcılar için uygundur.

Neler Öğreneceksiniz

Bu eğitimde yapay zeka güvenliğinin ne olduğunu, yapay zeka güvenliği ile güvenlikte yapay zeka kavramlarını ve AR-GE ile production ortamlarında kullanılan farklı AI sistemlerini inceleyeceksiniz.

Bir yapay zeka sisteminin güvenli olmasının ne anlama geldiğini AI Robustness ve AI Security kavramları üzerinden ele alacak; siber güvenlikten bildiğimiz Blue Teaming ve Red Teaming yaklaşımlarını AI perspektifinden inceleyeceksiniz. AI Blue Teaming ve AI Red Teaming takımlarının görev ve sorumluluklarının yanı sıra yapay zekanın kötü niyetli siber saldırılarda kullanımını ve genel AI Security ortamını ele alacaksınız.

OWASP Machine Learning Security Top 10 kapsamında uygulamalı Machine Learning ve Deep Learning projelerinin güvenliğini inceleyeceksiniz.

OWASP LLM Top 10 kapsamında Prompt Injection, Sensitive Information Disclosure, Supply Chain, Data and Model Poisoning, Improper Output Handling, Excessive Agency, System Prompt Leakage, Vector and Embedding Weaknesses, Misinformation ve Unbounded Consumption zafiyetlerini ele alacaksınız.

OWASP Agentic AI Security Top 10 kapsamında ise Agent Goal Hijack, Tool Misuse and Exploitation, Identity and Privilege Abuse, Agentic Supply Chain Vulnerabilities, Unexpected Code Execution (RCE), Memory & Context Poisoning, Insecure Inter-Agent Communication, Cascading Failures, Human-Agent Trust Exploitation ve Rogue Agents konularını inceleyeceksiniz.

Eğitim İçeriği

AI Security

What is AI Security?

Yapay zeka güvenliği nedir?
Yapay zeka güvenliği ve güvenlikte yapay zeka kavramları.

Different Types of AI Systems

AI sistemlerinin AR-GE ve production ortamlarındaki farklı türleri.

What Does "Secure AI" Mean?

Yapay zekanın güvenli olması ne anlama gelir?
AI Robustness ve AI Security.

Blue Teaming vs. Red Teaming

AI odaklı Blue Teaming ve Red Teaming.
AI Blue Teaming ve AI Red Teaming takımlarının görevleri ve sorumlulukları.

Using AI for Malicious Intents

Yapay zekanın kötü niyetli siber saldırılarda kullanılması.

The AI Security Landscape

Yapay zeka güvenliği ortamı ve genel mimarisi.

OWASP Machine Learning Security Top 10

Project reviews of applied Machine Learning and Deep Learning security.

OWASP LLM Top 10

LLM01: Prompt Injection

Prompt'ların bir LLM için oluşturabileceği güvenlik riskleri ve Prompt Injection ile LLM manipülasyonu.

LLM02: Sensitive Information Disclosure

LLM'lerin öğrendiği kritik veya hassas verilerin ifşa edilmesine yönelik güvenlik riskleri.

LLM03: Supply Chain

AI altyapısındaki tedarik zinciri zafiyetleri ve güvenliği.

LLM04: Data and Model Poisoning

Model ve veri zehirleme zafiyetleri ve bunlara karşı korunma.

LLM05: Improper Output Handling

LLM output'larının oluşturabileceği güvenlik problemleri ve güvenli çıktı yönetimi.

LLM06: Excessive Agency

LLM uygulamalarında güvenli geliştirme ve tasarım süreci.

LLM07: System Prompt Leakage

System prompt'ların ifşa edilmesi ve korunması.

LLM08: Vector and Embedding Weaknesses

Vector DB ve Embedding süreçlerindeki güvenlik zafiyetleri.

LLM09: Misinformation

Hatalı bilginin LLM sonuçları üzerindeki etkileri.

LLM10: Unbounded Consumption

AI altyapısının aşırı kullanılması sonucunda oluşabilecek finansal kayıplar ve alınabilecek önlemler.

OWASP Agentic AI Security Top 10

ASI01: Agent Goal Hijack

Bir agent'ın önceden belirlenen görevinin veya hedefinin değiştirilmesi.

ASI02: Tool Misuse and Exploitation

Agent aksiyonlarının ve kullandığı araçların manipüle edilmesi.

ASI03: Identity and Privilege Abuse

Agent kimlikleri ve yetkilendirme mekanizmalarının güvenliği.

ASI04: Agentic Supply Chain Vulnerabilities

Tedarik zinciri zafiyetlerinin Agentic AI perspektifinden incelenmesi.

ASI05: Unexpected Code Execution (RCE)

Agent'ların araç çalıştırması veya zararlı kod üretmesi sonucunda oluşabilecek riskler.

ASI06: Memory & Context Poisoning

LLM ve Agent hafıza mekanizmalarının zehirlenmesi.

ASI07: Insecure Inter-Agent Communication

A2A gibi protokoller üzerinden gerçekleşen agent iletişiminin manipüle edilmesi veya saldırıya uğraması.

ASI08: Cascading Failures

Multi-Agent sistemlerde bir agent'ın çıktı veya kararının diğer agent'ları zincirleme şekilde etkilemesi.

ASI09: Human-Agent Trust Exploitation

Human-in-the-Loop süreçlerinde kötü niyetli veya zehirlenmiş agent'ların insan onayını manipüle etmeye çalışması.

ASI10: Rogue Agents

Agent'ın tasarım amacı dışında hareket ederek arka planda kötü niyetli işlem, istek veya yönlendirmeler gerçekleştirmesi.

Neden Bizi Seçmelisiniz

1995’ten beri Birleşik Krallık merkezli lider bir global eğitim sağlayıcısıyız.

Ajan Tabanlı Yapay Zekâ Güvenliği eğitimine Bilginç IT Academy'nin canlı ve etkileşimli sanal sınıf ortamında katılabilirsiniz. Online Instructor-Led eğitimlerimize bireysel olarak genel katılıma açık (Public) sınıflardan katılabileceğiniz gibi, kurumunuza özel (Private / In-house) bir sınıf da planlayabilirsiniz.

Eğitim Formatı (Delivery Method): Online Instructor-Led
Katılım Modeli (Participation Model): Genel Katılıma Açık (Public) / Kuruma Özel (Private / In-house)
Canlı ve Etkileşimli Eğitim: Eğitmeninizle gerçek zamanlı iletişim kurun; soru-cevap, uygulama ve grup çalışmalarıyla öğrenme sürecine aktif olarak katılın.
Esnek Katılım: Evinizden, ofisinizden veya internet erişiminizin bulunduğu herhangi bir lokasyondan eğitime katılın.
Uzman Eğitmen Kadrosu: Sektör deneyimine sahip, alanında yetkin eğitmenlerden güncel ve uygulanabilir bilgiler edinin.
30 Yılı Aşkın Deneyim: Bilginç IT Academy'nin 1995 yılından bu yana süregelen eğitim uzmanlığından yararlanın.
Dünya Genelinde Erişim: Canlı sanal sınıflarımıza dünyanın farklı lokasyonlarından katılabilir veya kurumunuza özel online eğitim planlayabilirsiniz.

Agentic AI Security eğitimine yüz yüze sınıf ortamında katılabilirsiniz. Classroom Based eğitimlerimiz genel katılıma açık (Public)sınıflar veya kurumunuza özel (Private / In-house)sınıflar şeklinde planlanabilir.

Eğitim Formatı (Delivery Method): Classroom Based
Katılım Modeli (Participation Model): Genel Katılıma Açık (Public) / Kuruma Özel (Private / In-house)
Yüz Yüze Öğrenme: Eğitmeniniz ve diğer katılımcılarla doğrudan iletişim kurarak etkileşimli bir sınıf deneyimi yaşayın.
Deneyimli Eğitmenler: Sektörde uzun yıllara dayanan deneyime sahip uzmanlardan gerçek dünya örnekleriyle öğrenin.
Profesyonel Eğitim Ortamı: Teknolojik altyapısı güçlü, konforlu ve öğrenmeye uygun sınıflarda eğitim alın.
Uygulamalı Öğrenme: Eğitim içeriğine bağlı olarak uygulamalar, senaryolar, vaka çalışmaları ve eğitmen yönlendirmeli çalışmalarla teorik bilgilerinizi pratiğe dönüştürün.

Agentic AI Security eğitimini kurumunuza özel olarak kendi ofisinizde veya tercih ettiğiniz lokasyonda gerçekleştirebilirsiniz. Bilginç IT Academy eğitmenleri, kurumunuzun ihtiyaçlarına göre planlanan eğitim için belirlediğiniz lokasyona gelebilir.

Eğitim Formatı (Delivery Method): Onsite
Katılım Modeli (Participation Model): Kuruma Özel (Private / In-house)
Tercih Ettiğiniz Lokasyonda Eğitim: Eğitimi şirketinizin ofisinde veya belirlediğiniz farklı bir lokasyonda organize edin.
Kuruma Özel İçerik: Eğitim programını şirketinizin projelerine, ekip yapısına, mevcut yetkinlik seviyesine ve iş ihtiyaçlarına göre uyarlayın.
Ekip Odaklı Öğrenme: Ekibinizin aynı içerik ve yaklaşım etrafında gelişmesini sağlayarak kurum içi bilgi paylaşımını ve iş birliğini güçlendirin.
Esnek Planlama: Eğitim tarihini, lokasyonunu ve programını kurumunuzun operasyonel ihtiyaçlarına göre planlayın.
Global Eğitim Organizasyonu: Bilginç IT Academy eğitmenleri, kurumunuza özel eğitimler için dünyanın farklı ülkelerine ve lokasyonlarına yönlendirilebilir.

Agentic AI Security Eğitimi