Aktualności Instytutu Podstaw Informatyki PAN

Z pracującymi nad stworzeniem polskiego, wielkiego modelu językowego PLLuM specjalistkami i specjalistami rozmawiamy o szczegółach tego projektu.

Czym będzie PLLuM i dlaczego konsorcjum polskich uczelni zdecydowało się na jego stworzenie?

Zaczniemy od wyjaśnienia samej nazwy, bo ona w pewnym stopniu odpowiada już na postawione pytanie. PLLuM (Polish Large Language Model) to polski wielki model językowy, czyli odmiana bardzo popularnej ostatnio sztucznej inteligencji, której najsłynniejszymi przedstawicielami są ChatGPT, Claude, Gemini czy Mistral.

PLLuM powstaje w ramach współpracy wiodących jednostek naukowych z obszaru AI, ale warto podkreślić, że są to nie tylko uczelnie. Konsorcjum tworzą: Politechnika Wrocławska (lider projektu), Państwowy Instytut Badawczy NASK, Ośrodek Przetwarzania Informacji – Państwowy Instytut Badawczy (OPI PIB), Instytut Podstaw Informatyki PAN, Uniwersytet Łódzki oraz Instytut Slawistyki PAN.

Najciekawsza jest jednak oczywiście odpowiedź na drugą część pytania – dlaczego powstaje? Przede wszystkim dlatego, że narodowe wielkie modele językowe są pod wieloma względami korzystne dla rozwoju krajów, które zdecydowały się na ich stworzenie. Z jednej strony jesteśmy świadkami wyścigu polegającego na budowie nowych modeli komercyjnych przez największe firmy technologiczne, takie jak OpenAI czy Google, i wiemy, że działają one również w języku polskim. Są to jednak modele wielojęzyczne z preferencjami, a nawet wiedzą bazującą na języku angielskim i kulturze krajów anglosaskich. W większości takich wielojęzycznych modeli korpusy opierają się w co najmniej 90% na danych anglojęzycznych, a język polski jest tam reprezentowany w bardzo niewielkim zakresie. My natomiast chcemy, by generowane treści formułowane były w dobrej, płynnej polszczyźnie i jak najlepiej odzwierciedlały polskie realia społeczno-kulturowe, ekonomiczne czy prawne.

Z drugiej strony, mamy świadomość, że tego typu inicjatywa musi być w naszym kraju realizowana przez instytucje publiczne, ponieważ dla globalnych graczy rynkowych stworzenie otwartego modelu nie jest priorytetem, zaś polskie podmioty prywatne zazwyczaj nie dysponują odpowiednimi zasobami. Właśnie dlatego powstał PLLuM.

Miło nam poinformować, że wniosek dra Andrzeja Lieberta znalazł się na liście wniosków zaakceptowanych do finansowania Polskie Powroty NAWA w naborze 2023. Istotą projektu będzie generacja sztucznych obrazów benchmarkowych MRI, które mają stanowić podstawę do detekcji anomalii związanych z rakiem piersi w obrazach rzeczywistych. Generacja ma opierać się o nowoczesne techniki generacji obrazów wykorzystujących głębokie sieci neuronowe, uczenie ze wzmocnieniem (reinforcement learning) i wnioskowanie kontradyktoryjne (sieci GAN; Generative Adversarial Networks).

Projekt ma być zlokalizowany w Instytucie Podstaw Informatyki Polskiej Akademii Nauk w Zakładzie Sztucznej Inteligencji, który w swoich badaniach intensywnie wykorzystuje głębokie uczenie maszynowe do rozwiązywania szeregu problemów analizy danych. Gratulujemy laureatowi i życzymy owocnej pracy w nowo tworzonym zespole badawczym w IPI PAN.