AI & Tech Talks #15 - Testy obciążeniowe Nemotrona i aplikacje AI na produkcji

AI & Tech Talks #15 - Testy obciążeniowe Nemotrona i aplikacje AI na produkcji
Opis
# AI & Tech Talks #15
Zapraszamy na kolejne wydarzenie z cyklu AI & Tech Talks, organizowane wspólnie przez Pearson i Business Link!
Jeśli interesują Cię sztuczna inteligencja, machine learning, data science oraz praktyczne zastosowania AI w realnych produktach i środowiskach produkcyjnych, to wydarzenie jest dla Ciebie. Czekają na Ciebie inspirujące wystąpienia, wymiana doświadczeń z lokalną społecznością technologiczną oraz networking przy pizzy.
LISTOPADOWY MEETUP: 4.11 (środa) ⏰ 18:00 Business Link Poznań, Nowy Rynek ul. Wierzbięcice 1A, Budynek E, 1. piętro
Business Link to operator nowoczesnych przestrzeni biurowych, który wspiera rozwój biznesu, innowacji i społeczności technologicznych.
Agenda:
Grzegorz Bilewski Lead Specialist, AI Scientist @ Pearson Temat: Testy obciążeniowe modeli Nemotron na NVIDIA NIM Czego nauczyłem się, próbując zastąpić Gemini w aplikacji do nauki
Co się dzieje, gdy chcemy zamienić komercyjne API modelu językowego na własną infrastrukturę? Grzegorz podzieli się doświadczeniami z próby zastąpienia Gemini modelami NVIDIA Nemotron w aplikacji tutorującej. Opowie o uruchamianiu mikroserwisów inferencyjnych NVIDIA NIM na chmurowych GPU za pośrednictwem NVIDIA Brev, o tym, jak takie rozwiązanie zachowuje się pod obciążeniem, i jakie wnioski płyną z tego dla zespołów rozważających podobną zmianę.
Maciej Janiszewski Director, AI Enterprise Architecture @ Pearson Temat: Od promptu do produkcji: jak każdy w Pearsonie może bezpiecznie opublikować aplikację zbudowaną przez AI
W Pearsonie działa nadzorowana ścieżka publikacji wewnętrznych aplikacji generowanych przez AI. Citizen developer opisuje asystentowi AI, czego potrzebuje, a platforma wdraża aplikację z wbudowanymi kontrolami bezpieczeństwa, zatwierdzonym dostępem do danych i dostępem do modeli LLM. Jeśli któraś kontrola się nie powiedzie, wyniki trafiają prosto z powrotem do AI, która poprawia aplikację. Maciej pokaże, jak dzięki temu osoby bez doświadczenia inżynierskiego mogą bezpiecznie dostarczać prawdziwe narzędzia, nie dotykając infrastruktury.
Trzeci prelegent - wkrótce ujawnimy! Szczegóły trzeciego wystąpienia zdradzimy już niedługo. Obserwuj wydarzenie, żeby niczego nie przegapić!
Quiz AI & Tech z nagrodami
Networking & pizza
DO ZOBACZENIA!
Zobacz meetup.com/pearson-ai-tech/events/317045546/?utm_source=luma
Baner Pobierz baner (JPEG, 29,83 kB)
Źródło: www.poznan.pl
Opis
# AI & Tech Talks #15
Zapraszamy na kolejne wydarzenie z cyklu AI & Tech Talks, organizowane wspólnie przez Pearson i Business Link!
Jeśli interesują Cię sztuczna inteligencja, machine learning, data science oraz praktyczne zastosowania AI w realnych produktach i środowiskach produkcyjnych, to wydarzenie jest dla Ciebie. Czekają na Ciebie inspirujące wystąpienia, wymiana doświadczeń z lokalną społecznością technologiczną oraz networking przy pizzy.
LISTOPADOWY MEETUP: 4.11 (środa) ⏰ 18:00 Business Link Poznań, Nowy Rynek ul. Wierzbięcice 1A, Budynek E, 1. piętro
Business Link to operator nowoczesnych przestrzeni biurowych, który wspiera rozwój biznesu, innowacji i społeczności technologicznych.
Agenda:
Grzegorz Bilewski Lead Specialist, AI Scientist @ Pearson Temat: Testy obciążeniowe modeli Nemotron na NVIDIA NIM Czego nauczyłem się, próbując zastąpić Gemini w aplikacji do nauki
Co się dzieje, gdy chcemy zamienić komercyjne API modelu językowego na własną infrastrukturę? Grzegorz podzieli się doświadczeniami z próby zastąpienia Gemini modelami NVIDIA Nemotron w aplikacji tutorującej. Opowie o uruchamianiu mikroserwisów inferencyjnych NVIDIA NIM na chmurowych GPU za pośrednictwem NVIDIA Brev, o tym, jak takie rozwiązanie zachowuje się pod obciążeniem, i jakie wnioski płyną z tego dla zespołów rozważających podobną zmianę.
Maciej Janiszewski Director, AI Enterprise Architecture @ Pearson Temat: Od promptu do produkcji: jak każdy w Pearsonie może bezpiecznie opublikować aplikację zbudowaną przez AI
W Pearsonie działa nadzorowana ścieżka publikacji wewnętrznych aplikacji generowanych przez AI. Citizen developer opisuje asystentowi AI, czego potrzebuje, a platforma wdraża aplikację z wbudowanymi kontrolami bezpieczeństwa, zatwierdzonym dostępem do danych i dostępem do modeli LLM. Jeśli któraś kontrola się nie powiedzie, wyniki trafiają prosto z powrotem do AI, która poprawia aplikację. Maciej pokaże, jak dzięki temu osoby bez doświadczenia inżynierskiego mogą bezpiecznie dostarczać prawdziwe narzędzia, nie dotykając infrastruktury.
Trzeci prelegent - wkrótce ujawnimy! Szczegóły trzeciego wystąpienia zdradzimy już niedługo. Obserwuj wydarzenie, żeby niczego nie przegapić!
Quiz AI & Tech z nagrodami
Networking & pizza
DO ZOBACZENIA!
Zobacz meetup.com/pearson-ai-tech/events/317045546/?utm_source=luma
Baner Pobierz baner (JPEG, 29,83 kB)
Źródło: www.poznan.pl