Проф. Зико Колтер от университета Карнеги Мелън изнесе поканена лекция като част от технологичната серия INSAIT

Развълнувани сме да споделим, че проф. Зико Колтер (Университет Карнеги Мелън) изнесе поканена лекция на живо в София следващата седмица като част от INSAIT Tech Series! Проф. Колтер е един от 9-те членове на борда на OpenAI, заедно със Сам Алтман, и член на комитета по безопасност и сигурност.

Проф. Зико Колтер е един от водещите световни учени в областта на безопасния и сигурен изкуствен интелект, чиято новаторска работа е отличена с много престижни награди. Той е ръководител на катедра „Машинно обучение“ в CMU и е съосновател и главен технически съветник на Gray Swan, стартъп компания за сигурност в областта на изкуствения интелект.

Проф. Колтер сподели новаторски прозрения за подобряване на устойчивостта на моделите с големи езикови модели (LLM), което ги прави по-трудни за манипулиране чрез враждебни атаки. Той също така разгледа предизвикателствата пред защитата на системите с изкуствен интелект и подчерта неотдавнашно състезание, при което нападателите не успяха да пробият специално проектиран LLM след месец опити!