Ugrás a tartalomra

A HUN-REN Rényi Intézet tudományos munkatársa is részt vesz a Megbízható mesterséges intelligencia mentorprogramban

Hírek

A New York University Center for Responsible AI csoportja szervezésében 2022-ben kezdődött a Megbízható mesterséges intelligencia (Responsible AI) mentorprogram, amelyben ukrán egyetemistáknak biztosítanak lehetőséget arra, hogy mentorkutatók vezetésével részt vehessenek egy öt, esetleg tíz hónapig tartó kutatási projektben ebben a témakörben. A főszervező Julia Stoyanovich. Zombori Zsolt, a HUN-REN Rényi Alfréd Matematikai Kutatóintézet (HUN-REN Rényi Intézet) tudományos munkatársa és oxfordi kollégái, Michael Benedikt és Sam Adam-Day 2023 szeptemberében csatlakoztak a programhoz.

Szeptember elején, az előkészítési fázisban a jelentkező mentorcsoportok kutatási témákat javasoltak, amelyeket prezentáltak az ukrán diákoknak. Ezt követően az egyes felvetett témák iránt érdeklődő kisebb diákcsoportok – Zombori Zsolték esetében ez mintegy 20 fő volt – egyenként 5 percben bemutatkoztak a mentoroknak.

Zombori Zsolt és társai négy informatikus hallgató mentorálását vállalták el. Egy diák Kijevben, három pedig Lvivben jár az Ukrán Katolikus Egyetemre (Ukrainian Catholic University), akik online tartják a kapcsolatot a mentoraikkal hetente egy alkalommal. A projekt célkitűzése elméleti kutatás, ezen belül konkrétan azt vizsgálják, hogyan lehet logikai formulák formájában rendelkezésre álló korlátokat tanuló rendszerekbe beépíteni. Mivel a tanuló rendszerek viselkedését a rendelkezésre álló adatok alakítják ki, nagyon nehéz bármilyen garanciát adni a végső rendszerrel kapcsolatban, és ez sok helyzetben vet fel biztonsági, illetve etikai problémákat. A projekt két konkrét adathalmaz – a MnistAdd és a Road-R – kapcsán keres olyan tanuló módszereket, amelyek hatékonyan tudnak kívülről érkező logikai korlátokat figyelembe venni. A projekt során elméleti cikkek feldolgozására, programozásra, illetve szimulációs kísérletek lebonyolítására egyaránt szükség van.

Kiemelkedő együttműködés esetén természetesen tovább folytatódhat a közös munka.