Radosław Klimek

Narzędzia użytkownika

Narzędzia witryny

ideas

Różnice

Różnice między wybraną wersją a wersją aktualną.

Odnośnik do tego porównania

Poprzednia rewizja po obu stronachPoprzednia wersja
Nowa wersja		Poprzednia wersja
ideas [2025/12/01 19:34] – adminideas [2025/12/02 12:18] (aktualna) – admin
Linia 1: Linia 1:
-====== Obszary zainteresowań, inspiracje i projekty ======+====== Obszary zainteresowań - inspiracje i projekty ====== 
 + 
 +<color red>Strona w trakcie przygotowywania - przepraszamy za niedogodności</color> 
  
 Uporządkowana struktura głównych obszarów tematycznych będących przedmiotem naszych badań oraz szczegółowe charakterystyki projektów – wraz z ich listą – obejmują kontekst, cele, zakres techniczny i zastosowania. Strona pełni funkcję informacyjną oraz orientacyjną, prezentując zarówno kierunki naszych prac, jak i aktualnie rozwijane inicjatywy badawcze i projektowe. Uporządkowana struktura głównych obszarów tematycznych będących przedmiotem naszych badań oraz szczegółowe charakterystyki projektów – wraz z ich listą – obejmują kontekst, cele, zakres techniczny i zastosowania. Strona pełni funkcję informacyjną oraz orientacyjną, prezentując zarówno kierunki naszych prac, jak i aktualnie rozwijane inicjatywy badawcze i projektowe.
  
 **Zachęcamy do współpracy**, która może obejmować różne formy zaangażowania: od zwykłego uczestnictwa w projektach i realizacji eksperymentów, przez przygotowanie prac dyplomowych inżynierskich i magisterskich, aż po – w przypadku osób o zacięciu naukowym – współautorstwo publikacji, rozwijanie wyników badawczych oraz działania prowadzące do uzyskania wyższych stopni naukowych.  **Zachęcamy do współpracy**, która może obejmować różne formy zaangażowania: od zwykłego uczestnictwa w projektach i realizacji eksperymentów, przez przygotowanie prac dyplomowych inżynierskich i magisterskich, aż po – w przypadku osób o zacięciu naukowym – współautorstwo publikacji, rozwijanie wyników badawczych oraz działania prowadzące do uzyskania wyższych stopni naukowych. 
- 
  
 ---- ----
 **Obszar tematyczny** **Obszar tematyczny**
-====== ▶ Systemy i Środowiska Inteligentne ======+====== ▶ LLM i Generatywna Sztuczna Inteligencja ======
  
-<color #888888>**Słowa kluczowe**: +<color #888888>**Słowa kluczowe**:   
-Intelligent Environments, Ambient Intelligence, Context-Aware Systems, IoT, Pervasive Computing, Smart Environments</color>+Large Language Models, Generative AI, Reasoning, Context Understanding, Agentic AI, Multimodal Processing, Explainability</color>
  
  
-<color #888888>Systemy i środowiska inteligentne (Intelligent Environments, Ambient Intelligence, pervasive / ubiquitous computing) to jedna z najbardziej dynamicznych i przyszłościowych dziedzin informatyki. Ich celem jest tworzenie przestrzeni – budynków, miast, szlaków górskich, lasów, stref przemysłowych – które **same rozumieją sytuację**, reagują na zmiany i wspierają użytkowników w sposób **dyskretny, proaktywny i kontekstowy**.</color>+<color #888888>Generatywna Sztuczna Inteligencja, a w szczególności duże modele językowe (LLM), zmienia sposób projektowania systemów informatycznych. Modele te potrafią rozumieć język naturalny, generować treści, interpretować kontekst, analizować dane oraz wspierać podejmowanie decyzji. Wprowadzają nową jakość w obszarach takich jak programowanie, modelowanie, analiza procesów, interakcja człowiek–komputer czy inteligentne środowiska.</color>
  
  
-<color #888888>To informatyka „zanurzona w otoczeniu”: tysiące czujników, urządzeń IoT, systemów komunikacji i modułów obliczeniowych pracuje w tle, integrując się w inteligentną warstwę wspomagającą ludzi. W takich środowiskach system *nie tylko zbiera dane*, ale potrafi:</color>+<color #888888>LLM są „game changerem”, ponieważ:</color>
  
-  * //analizować kontekst (np. warunki pogodowe, zachowania użytkowników, zagrożenia),// +  * //działają uniwersalnie — mogą analizować, streszczać, projektować i generować,//   
-  * //przewidywać sytuacje (np. powstawanie zagrożeń),// +  * //rozumieją opisy zadań i potrafią tworzyć formalne artefakty (kod, modele, reguły),//   
-  * //podejmować decyzje w czasie rzeczywistym),// +  * //łączą dane symboliczne i opisowe, umożliwiając semantyczną interpretację kontekstu,//   
-  * //działać w sposób rozproszony, autonomiczny i skalowalny.//+  * //umożliwiają tworzenie agentów potrafiących samodzielnie planować działania,//   
 +  * //działają multimodalnie (tekst, obraz, dane), co otwiera nowe zastosowania.//
  
  
-<color #888888>Dziedzina ta jest atrakcyjna ponieważ łączy **technologie przyszłości**: IoT, sztuczną inteligencję, agentowość, stream processing, systemy czasu rzeczywistego, analizę danych kontekstowych, a dodatkowo oferuje **realne scenariusze zastosowań**, takie jak:</color>+<color #888888>Jednocześnie obszar ten wiąże się z wyzwaniami: kontrolą jakości generacji, stabilnością wyników, interpretowalnością, bezpieczeństwem, halucynacjami oraz potrzebą integrowania modeli z klasycznymi narzędziami analitycznymi i weryfikacyjnymi. To czyni tę dziedzinę intensywnie rozwijaną i badawczo bardzo atrakcyjną.</color>
  
-  * //inteligentne wsparcie ratownictwa w górach,// 
-  * //monitoring i przewidywanie zagrożeń w lasach,// 
-  * //inteligentne miasta wspierające działania patrolowe,// 
-  * //inteligentne budynki, domy, sieci transportowe i obiekty przemysłowe.// 
  
 +<color #888888>LLM stają się fundamentem nowych platform obliczeniowych, środowisk developerskich, narzędzi analitycznych i systemów agentowych. Ich skuteczne wykorzystanie wymaga zrozumienia ich możliwości, ograniczeń oraz metod łączenia ich z klasycznymi technikami inżynierii oprogramowania.</color>
  
-<color #888888>Nowoczesne inteligentne środowiska są dziś coraz bardziej wzmacniane przez **agentów sterowanych GenAI/LLM**, którzy potrafią rozumieć kontekst semantycznie, przewidywać zachowania oraz współpracować ze sobą jak zespoły ludzkie.</color>+----
  
 +**Przykładowe tematy projektowe:**
  
-<color #888888>Jest to obszar pełen wyzwań – od danych środowiskowych wysokiej zmienności, przez budowę cykli życia kontekstu i algorytmów proaktywnego wnioskowania, po tworzenie systemów odpornych i skalowalnych. Jednocześnie daje on szerokie możliwości tworzenia **innowacyjnych projektów o znaczeniu praktycznym**.</color>+===== ▶ Analiza kreatywności człowieka i LLM =====
  
-----+<color #888888>Słowa kluczowe: Kreatywność, Myślenie Dywergencyjne, Testy Alternatywnych Zastosowań (AUT), Generative AI, Human-AI Interaction, Oryginalność</color>
  
-**Przykładowe tematy projektowe:**+Projekt bada fundamentalne różnice w naturze i przejawach kreatywności pomiędzy ludźmi a dużymi modelami językowymi (LLM). Kreatywność jest często uznawana za unikalną cechę ludzką; w obliczu możliwości LLM do generowania nowych, złożonych i czasem zaskakujących treści, konieczne staje się systematyczne zbadanie, jak generatywna AI realizuje proces twórczy.
  
-===== ▶ Monitorowanie środowiska górskiego i wspieranie ratowników =====+Metodologia: Zostanie opracowany zestaw zadań kreatywnych (np. Test Alternatywnych Zastosowań - generowanie nietypowych zastosowań dla prostych przedmiotów; zadania z Twórczego Rozwiązywania Problemów - generowanie nowych pomysłów, wariantów rozwiązań, nietypowych interpretacji). Zadania te będą wykonywane przez dwie grupy: uczestników ludzkich oraz różne warianty modeli LLM (np. z różnymi technikami promptowania lub "temperaturą").
  
-Rozwijamy **zintegrowany system**, którego celem jest **bieżące monitorowanie środowiska górskiego** oraz **wspieranie działań ratowniczych** poprzez analizę danych kontekstowych, ocenę ryzyka i generowanie alertów w czasie zbliżonym do rzeczywistego. Pracujemy jednocześnie nad dwoma komplementarnymi elementami: **inteligentnym systemem wspierającym** oraz **symulatorem środowiska górskiego**, które razem tworzą spójny ekosystem informacyjny.+Oceniane aspekty kreatywności (zgodnie ze standardami psychometrycznymi):
  
-System wspierający przetwarza zróżnicowane strumienie danych, obejmujące m.in. lokalizacje turystów i zwierząt, odczyty stacji pogodowych, zgłoszenia zagrożeń lawinowych oraz sygnały z infrastruktury telekomunikacyjnej. Integrujemy te dane w **jednolity model sytuacyjny**, stosując podejścia logiczne, probabilistyczne i maszynowe w celu wykrywania anomalii, oceny poziomów zagrożeń i formułowania zaleceń operacyjnych. Tworzymy **architekturę mikrousługową o niskiej latencji**, umożliwiającą skalowalne przetwarzanie informacji przestrzenno-czasowych.+    * Oryginalność (Novelty): Rzadkość występowania pomysłu.
  
-Równolegle rozwijamy **symulator środowiska górskiego**, który odwzorowuje złożone zjawiska naturalne i behawioralne. Modelujemy dynamiczne warunki pogodowe, ewolucję pokrywy śnieżnej, zagrożenia lawinowe, ruch turystyczny, migracje zwierząt oraz ich wzajemne oddziaływania. Symulator stanowi **środowisko eksperymentalne**, pozwalające wytwarzać syntetyczne dane, badać scenariusze skrajne, testować algorytmy wykrywania zagrożeń i kalibrować moduły decyzyjne systemu wspierającego.+    * Różnorodność (Fluency): Liczba wygenerowanych pomysłów.
  
-Połączenie **perspektywy operacyjnej i symulacyjnej** umożliwia analizę zachowań i zagrożeń w rzeczywistych i hipotetycznych warunkach, tworząc podstawy do budowy **inteligentnych środowisk górskich** zdolnych do proaktywnego działania. To podejście sprzyja rozwijaniu metod przetwarzania kontekstu, tworzeniu usług ambient-aware oraz opracowywaniu narzędzi zwiększających bezpieczeństwo i skuteczność działań ratowniczych.+    * Elastyczność (Flexibility): Liczba różnych kategorii, do których należą pomysły.
  
 +    * Użyteczność (Usefulness/Elaboration): Praktyczność i poziom rozwinięcia pomysłu.
  
-**Więcej informacji:** \\ +    * Odwaga Poznawcza: Skłonność do generowania ryzykownych, ale potencjalnie przełomowych idei.
-[[https://www.sciencedirect.com/science/article/abs/pii/S0020025523013579?via%3Dihub|artykuł w *Information Sciences*]] \\ +
-[[https://www.google.com/search?q=Radoslaw+Klimek+góry|Informacje medialne]] \\+
  
 +Cel Projektu: Zrozumienie, w jakich obszarach (np. szybkość, różnorodność) modele generatywne przewyższają ludzi, a w jakich (np. oryginalność, głęboka interpretacja kontekstu) ludzie nadal zachowują przewagę. Projekt ma na celu wizualizację profilu kreatywności obu stron.
  
-===== ▶ Monitorowanie lasów i kontekstowe wsparcie ochrony przeciwpożarowej =====+**Materiały**:   
 +  * [[https://www.sciencedirect.com/science/article/pii/S1871187125001191|Large language models show both individual and collective creativity comparable to humans]]  
 +  * [[https://arxiv.org/abs/2405.13012|Divergent Creativity in Humans and Large Language Models]] 
  
-Rozwijamy **kontekstowy system monitorowania lasów**, którego celem jest **wczesne wykrywanie zagrożeń pożarowych** oraz **wspieranie operacji ochrony przeciwpożarowej**. Wykorzystujemy gęstą sieć czujników środowiskowych, analizę strumieni danych i inteligentne mechanizmy decyzyjne, tworząc rozwiązanie zdolne do ciągłej oceny sytuacji oraz szybkiej, automatycznej reakcji na zmieniające się warunki.+----
  
-System przetwarza dane o temperaturze, wilgotności, dynamice wiatru, koncentracji gazów i pyłów, integrując je w **wielowymiarowy model kontekstu**. Na tej podstawie określamy poziomy zagrożeń, identyfikujemy wczesne symptomy pożarów oraz klasyfikujemy ich stadium. Architektura opiera się na **rozproszonych agentach** odpowiedzialnych za zbieranie danych, analizę zagrożeń, planowanie działań oraz alokację zasobów.+===== ▶ Hybrid Reasoning: Integracja LLM z Dedukcyjnymi Systemami Wiedzy =====
  
-Wprowadzamy także **mechanizmy negocjacji automatycznej**, w których agenci reprezentujący różne jednostki strażackie uzgadniają sposób podziału zasobów i wybór sektorów interwencji. Wykorzystujemy modele **teorii gier** – m.in. strategie kooperacyjne, równowagi negocjacyjne i preferencyjne modele alokacji – aby umożliwić podejmowanie decyzji zgodnych z globalnym celem minimalizacji ryzyka i strat. W połączeniu z **uczeniem ze wzmocnieniem** pozwala to dynamicznie dostosowywać strategie reagowania do rozwoju sytuacji i dostępności brygad.+<color #888888>Słowa kluczowe: Formal Logic, Dedukcja, Reasoning, Explainable AI (XAI), Semantic Interoperability, Halucynacje</color>
  
-Symulator środowiska leśnego umożliwia analizę różnych scenariuszy, od powolnych zarzewi po szybkie pożary frontowe. Odtwarzamy **modele rozprzestrzeniania ognia**, interakcje warstw środowiskowych, wpływ wiatru i ukształtowania terenu, a także zachowania agentów decyzyjnych. Symulator stanowi **środowisko eksperymentalne** do testowania algorytmów wykrywania zagrożeń, strategii podziału zasobów oraz skuteczności negocjacji opartych na teorii gier.+Projekt bada innowacyjne podejście do wnioskowania, łącząc elastyczność i kreatywność Dużych Modeli Językowych (LLM) z precyzją i weryfikowalnością klasycznych silników wnioskujących (np. systemy reguł, Solvery, bazy danych grafów logicznych).
  
-Projekt integruje **przetwarzanie kontekstu**, **systemy wieloagentowe**, **modelowanie środowiskowe** i **negocjacje strategiczne**, tworząc nowoczesną platformę badawczą dla inteligentnych systemów ochrony przeciwpożarowej.+Celem jest stworzenie systemu, w którym LLM pełni funkcję Interpretera Języka Naturalnego (tłumacząc zapytania na formalne reguły) oraz Generatywnego Proponującego (tworząc wstępne hipotezy). Następnie, klasyczny silnik dedukcyjny przejmuje rolę Weryfikatora i Finalnego Wnioskującego, gwarantując logiczną spójność i poprawność wyniku.
  
-===== ▶ Inteligentne interwencje policyjne (smart gun) =====+Projekt wymaga implementacji technik konwersji języka naturalnego na formalne reguły oraz ewaluacji, w jaki sposób model hybrydowy poprawia weryfikowalność i ogranicza halucynacje w zadaniach wymagających ścisłej logiki.
  
-Rozwijamy **kontekstowy system wspierający interwencje policyjne**, w którym inteligentne moduły smart-gun, urządzenia mobilne oraz systemy nawigacyjne tworzą spójne środowisko przetwarzania danych. Broń służbowa jest traktowana jako **sensor kontekstu**, inicjujący procesy decyzyjne w systemie — w momencie nieplanowanego oddania strzału system automatycznie analizuje sytuację i wyszukuje patrole zdolne do udzielenia wsparcia.+**Materiały**:   
 +  * [[https://ieeexplore.ieee.org/document/10721277|Towards Data-And Knowledge-Driven AI: A Survey on Neuro-Symbolic Computing]]   
 +  * [[https://link.springer.com/article/10.1007/s00521-024-09960-z|Neuro-symbolic artificial intelligence: a survey]]  
  
-System działa w ramach **wieloagentowej architektury (MAS)**, obejmującej m.in. centrum zarządzania (MC), patrole policyjne (PP), agentów broni (Gn), agentów nawigacji (Nv), agentów komunikacyjnych (X) oraz agentów reprezentujących służby wspierające (np. ambulanse, drony). Każdy agent przetwarza wybrane zmienne kontekstowe, związane z czasem, lokalizacją, typem zdarzenia, stanem patrolu oraz relacjami przestrzennymi w mieście. Kontekst jest modelowany z użyciem kategorii oraz operacyjnych relacji przetwarzania (R6), co pozwala na kontrolowanie przepływu i transformacji danych w cyklu: akwizycja – modelowanie – przechowywanie – wnioskowanie – działanie.+===== ▶ Detekcja i Mitigacja Halucynacji w Modelach LLM przy Użyciu RAG =====
  
-Kluczowym elementem systemu jest **mechanizm wyboru patroli wsparcia** dla interwencji o podwyższonym ryzyku. Wykorzystujemy do tego **zadanie ważonego MaxSAT**, w którym zmienne odpowiadają m.in. stanowi patrolu, położeniu geograficznemu, charakterystyce dzielnicy oraz odległości od miejsca zdarzenia. Wagi odzwierciedlają priorytety operacyjne: preferowane są patrole w stanie obserwacji, z bezpieczniejszych dzielnic oraz znajdujące się relatywnie blisko zdarzenia, przy jednoczesnym uwzględnieniu dostępności zasobów. Rozwiązanie zadania MaxSAT generuje listę jednostek wsparcia, zapewniając kompromis między szybkością reakcji, bezpieczeństwem a efektywnym wykorzystaniem sił.+<color #888888>Słowa kluczowe: Retrieval-Augmented Generation (RAG), Context Understanding, Data Quality, Prompt Engineering, Halucynacje, Faithfulness</color>
  
-Całość jest testowana w **symulatorze miejskiego środowiska**, który odtwarza układ ulic, podział na dzielnice o różnym poziomie bezpieczeństwa, generuje interwencje oraz incydenty z użyciem broni. Symulacja pozwala analizować obciążenie patroli, dynamikę zdarzeń, czasy reakcji oraz jakość decyzji alokacyjnych. Wyniki potwierdzają możliwość zastosowania proponowanego podejścia w inteligentnych środowiskach miejskich, w których **kontekst, dane przestrzenno-czasowe i architektura wieloagentowa** wspólnie wspierają automatyzację i orkiestrację decyzji w systemach bezpieczeństwa publicznego.+Halucynacje (generowanie nieprawdziwych, ale brzmiących wiarygodnie informacji) są kluczowym wyzwaniem w zastosowaniach LLM opartych na wiedzy. Projekt skupia się na stworzeniu zaawansowanego frameworku RAG, który ma na celu minimalizację halucynacji i zwiększenie weryfikowalności odpowiedzi w oparciu o zaufaną bazę wiedzy.
  
-===== ▶ Inteligentny asystent turysty =====+Innowacja polega na udoskonaleniu trzech kluczowych etapów RAG:
  
-Rozwijamy wielomodułowy, kontekstowy **asystent turysty**, którego celem jest automatyczne generowanie +  *  Pobieranie Kontekstu: Eksperymentowanie z zaawansowanymi strategiami pobierania (np. Multi-Hop RAG, Re-ranking).
-spersonalizowanych planów zwiedzania miast i regionów. System integruje wiele źródeł danych o preferencjach użytkownika, +
-uwzględnia aktualny kontekst środowiskowy (pogoda, dostępność atrakcji, godziny otwarcia) i tworzy +
-optymalne trasy zwiedzania, dostosowane do ograniczeń czasowych i logistycznych.+
  
-Budujemy rozwiązanie, które łączy **NLP i analizę sentymentu**, modele klasyfikacji preferencji, moduły rekomendacyjne POI, +   * Generacja: Optymalizacja promptów, aby wymagały od LLM cytowania źródła dla każdego faktu.
-oraz **heurystyczną optymalizację tras (VRPTW)**, generując wielodniowe, spójne i dynamicznie aktualizowane itineraria. +
-System przetwarza dane z chatbotów, mediów społecznościowych, dokumentów tekstowych oraz kwestionariuszy, +
-tworząc wektorowy profil zainteresowań i priorytetów turysty.+
  
-W warstwie rekomendacyjnej wykorzystujemy semantyczne dopasowanie opisów atrakcji do profilu użytkownika, +   * Autoweryfikacja (Self-Correction/Critique): Opracowanie drugiego etapu, w którym model krytycznie ocenia swoją własną odpowiedź w kontekście pobranych dokumentów, identyfikując i korygując potencjalne halucynacje.
-Bayesowskie metody oceny jakości POI (Wilson score), a także real-time filtering zależny od pogody, +
-dostępności i kontekstu lokalnego. Kolejne etapy obejmują klastrowanie dzienne (K-Means) oraz budowę tras +
-z użyciem algorytmów **Christofidesa, 2-opt, A\***, z uwzględnieniem okien czasowych i długości przejść.+
  
-Tworzymy rozwiązanie, które ma zastosowanie w inteligentnych miastach, systemach informacji turystycznej, +Efektem jest implementacja architektury RAG oraz ewaluacja wskaźników Faithfulness (wierność źródłu) i Answer Relevance (trafność odpowiedzi).
-aplikacjach mobilnych, a także jako komponent wirtualnych biur turystycznych. Projekt obejmuje również rozwój +
-interfejsu mapowego (Leaflet / OpenStreetMap) i integracji z usługami transportu publicznego.+
  
 **Materiały**:   **Materiały**:  
-  * [[https://aisel.aisnet.org/pacis2025/transform/transform/1/|artykuł na konferencji PACIS 2025]]  +  * [[https://dl.acm.org/doi/10.1145/3703155|A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions]] 
  
-===== ▶ Syntetyczne trajektorie mobilności turystów w miastach =====+===== ▶ Etyka i Bezpieczeństwo: Implementacja Warstw Ochronnych (Guardrails) dla LLM =====
  
-Rozwijamy system generowania **syntetycznych trajektorii mobilności turystów**, który umożliwia modelowanie zachowań odwiedzających w dowolnym mieście – także tam, gdzie rzeczywiste dane telekomunikacyjne są niedostępne z powodów prawnych lub kosztowych. Wykorzystujemy profile behawioralne, informacje geograficzne (GIS), rekomendacje POI oraz reguły opisujące preferencje i ograniczenia użytkowników, tworząc realistyczne i powtarzalne modele ruchu.+<color #888888>Słowa kluczowe: Safety, Security, Responsible AI, Guardrails, Prompt Injection, Jailbreaking, Content Moderation</color>
  
-Model łączy komponenty odpowiedzialne za wybór punktów POI, planowanie sekwencji odwiedzin, konstrukcję tras opartych o dane OSM lub usługi routingu oraz generowanie pełnych trajektorii czasoprzestrzennych. System pozwala definiować ograniczenia *what–when–where*, testować scenariusze typu „co-jeśli” oraz badać zakłócenia mobilności, takie jak zamknięcia obiektów, zmiany organizacji ruchu czy ograniczenia transportowe.+LLM wdrożone w środowiskach produkcyjnych wymagają silnych mechanizmów bezpieczeństwa, zwanych Guardrails (Bariery Ochronne), które kontrolują zarówno intencję użytkownika (wejście), jak i treść generowaną przez model (wyjście).
  
-Generator może tworzyć dane na dowolną skalę, z kontrolą poziomu realizmu poprzez integrację preferencji turystów, okien czasowych, dostępności obiektów oraz różnych profili wizyt (kulturalnych, rekreacyjnych, mieszanych). Ważnym elementem jest także generowanie **narracji tekstowych**, które zwiększają interpretowalność danych i pozwalają na jakościową ocenę zachowań.+Projekt polega na zaprojektowaniu i zaimplementowaniu modułu Guardrails, który chroni system przed:
  
-Projekt wspiera rozwój **inteligentnych środowisk miejskich**, dostarczając syntetycznych danych mobilności nieosiągalnych w tradycyjny sposób. Umożliwia testowanie systemów smart-city, budowę modeli predykcyjnych, badanie przepływów turystycznych oraz symulowanie sytuacji nietypowych lub kryzysowych.+    * Prompt Injection/Jailbreaking: Złośliwymi instrukcjami mającymi na celu złamanie wewnętrznych reguł LLM. 
 + 
 +    * Generowaniem Szarej Strefy (Harmful Content): Uzyskaniem toksycznych, nieetycznych lub poufnych informacji. 
 + 
 +Moduł ten działa jako pośrednik między użytkownikiem a LLM, wykorzystując techniki takie jak klasyfikatory semantyczne do walidacji intencji oraz Output Filtering do sprawdzania zgodności wygenerowanej odpowiedzi z polityką bezpieczeństwa. 
 + 
 +Oczekiwany rezultat to gotowy moduł Guardrails, który jest testowany pod kątem odporności na ataki i skuteczności w zapobieganiu niepożądanym treściom. 
 + 
 +**Materiały**:   
 +  * [[https://www.sciencedirect.com/science/article/pii/S266729522400014X|A survey on large language model (LLM) security and privacy: The Good, The Bad, and The Ugly]]
  
 ---- ----
 **Obszar tematyczny** **Obszar tematyczny**
-====== ▶  Modele Oprogramowania i Formalna Weryfikacja ======+====== ▶ Systemy Agentowe (MAS) sterowane przez GenAI/LLM ======
  
 <color #888888>**Słowa kluczowe**:   <color #888888>**Słowa kluczowe**:  
-model-driven software engineering, formal methods, AI-IDE, logical verification, automated code generation, technical debt analysis, LLM support, explainability</color>+Multi-Agent Systems, Agentic AI, LLM-driven Agents, AutoGen, LangGraph, Generative AI, Context-Aware Agents, Proactive Systems</color>
  
  
-<color #888888>Modele oprogramowania i formalna weryfikacja stanowią podstawę budowy systemów, które są **spójne, bezpieczne i możliwe do logicznego uzasadnienia**. Pozwalają przechodzić od wymagań i opisów zachowania do precyzyjnych modeli, które można analizować, transformować oraz automatycznie przekształcać w działające komponenty oprogramowania.</color>+<color #888888>Systemy agentowe (MAS) umożliwiają budowę rozproszonych, autonomicznych i współpracujących komponentów, które wspólnie realizują złożone zadania. Wraz z pojawieniem się nowoczesnych modeli językowych (LLM), klasyczne podejście do MAS ewoluuje: zamiast sztywnych reguł i wbudowanych planów, agenci zyskują zdolność semantycznego rozumienia sytuacji, generowania planów, analizowania kontekstu oraz elastycznego reagowania na zmiany w środowisku.</color>
  
  
-<color #888888>Współczesne środowiska inżynierii oprogramowania coraz częściej wykorzystują **zintegrowane narzędzia AI-IDE**, łączące generatywną sztuczną inteligencję z technikami analizy i weryfikacji formalnej. Dzięki temu możliwe jest:</color>+<color #888888>W architekturach MAS wzbogaconych o GenAI, LLM pełni rolę adaptacyjnego „umysłu” agenta. Dzięki temu agent potrafi:</color>
  
-  * //automatyczne tworzenie i uzupełnianie modeli behawioralnych (diagramy aktywności, maszyny stanów),//   +  * //interpretować kontekst na podstawie opisów tekstowych, danych IoT i informacji środowiskowych,//   
-  * //dedukcyjna analiza semantyczna i wykrywanie niespójności,//   +  * //planować działania i przewidywać konsekwencje decyzji,//   
-  * //automatyczna identyfikacja i kategoryzacja długu technicznego,//   +  * //komunikować się z innymi agentami w języku naturalnym,//   
-  * //zapewnienie śladowalności i wyjaśnialności na bazie logicznych reprezentacji,//   +  * //negocjować role, priorytety i strategie,//   
-  * //projektowanie systemów zgodnie z zasadami correctness-by-construction.//+  * //uczyć się nowych zadań bez przebudowy kodu,//   
 +  * //działać proaktywnie i adaptacyjnie w dynamicznym środowisku.//
  
  
-<color #888888>Dług techniczny oznacza **ukryte koszty wynikające z uproszczonych decyzji projektowych lub implementacyjnych**, które przyspieszają powstawanie systemu, ale później wymagają dodatkowej pracy, refaktoryzacji lub modyfikacji. Modele formalne i automatyczne analizy pozwalają ten dług _wykrywać, mierzyć i skutecznie redukować_. </color>+<color #888888>Współczesne platformy takie jak AutoGen, CrewAI czy LangGraph pozwalają tworzyć środowiska, w których wiele agentów LLM współpracuje, dzieli się wiedzą, koordynuje zadania i prowadzi rozmowy w celu osiągnięcia celu. Połączenie MAS+LLM otwiera nowe możliwości w systemach inteligentnych, symulacjach, inteligentnych miastach, przemyśle, bezpieczeństwie i logistyce.</color>
  
  
-<color #888888>Obszar obejmuje wykorzystanie różnorodnych środowisk developerskich i akademickich IDE wspieranych przez LLM, edytory modeli, logiki temporalne, narzędzia SMT/ATP oraz mechanizmy przekształceń modeli. Umożliwia to budowę **inteligentnych, wyjaśnialnych i weryfikowalnych środowisk programistycznych**, wspierających cały cykl życia oprogramowania.</color>+<color #888888>W podejściu hybrydowym agenci mogą działać jednocześnie na dwóch poziomach:   
 +  * **operacyjnym** – realizując działania w środowisku (percepcja → interpretacja → decyzja),   
 +  * **strategicznym** – gdzie LLM wspiera rozumowanie, generację planów, wykrywanie anomalii i wyjaśnialność działań.</color> 
 + 
 + 
 +<color #888888>Systemy te stają się szczególnie wartościowe tam, gdzie potrzebna jest współpraca wielu jednostek (fizycznych lub programowych), dynamiczne reagowanie na kontekst oraz zdolność do przetwarzania informacji nieustrukturyzowanych. To obszar niezwykle aktualny, intensywnie rozwijany badawczo i oferujący ogromny potencjał projektowy.</color>
  
 ---- ----
Linia 143: Linia 152:
 **Przykładowe tematy projektowe:** **Przykładowe tematy projektowe:**
  
-===== ▶ Modelowanie wymagań systemu z użyciem LLM i ich weryfikacja logiczna (projekt LoRE+)=====+**Materiały**:   
 +  * [[https://www.scribd.com/document/351296074/Libelium-White-Paper-50-IoT-Real-Case-Studies|Libelium White Paper - 50 IoT Real Case Studies]]
  
-**Słowa kluczowe**:   
-LLM-assisted modelling, Requirements Engineering, UML, Formal Verification, Deductive Reasoning, AI-IDE 
  
 +===== ▶ Smart Logistics MAS – wieloagentowe zarządzanie flotą z LLM-plannerem =====
  
-**Słowa kluczowe**:   +**Opis projektu:**   
-LLM-assisted modelling, Requirements Engineering, UML, AI-IDE, formal analysis, smart modelling+Celem jest stworzenie środowiska logistycznego (miasto, kampus lub sieć transportowa), w którym agenci reprezentują pojazdy, magazyny, punkty odbioru i centra planowania.   
 +Wersja klasyczna bazuje na regułach i prostych heurystykach, natomiast wersja GenAI wykorzystuje LLM do planowania tras, priorytetów i negocjacji między agentami.
  
-Projekt dotyczy tworzenia nowoczesnego środowiska, w którym **inteligentne modele językowe (LLM)** pomagają w budowaniu i analizowaniu wymagań systemowych. Celem jest wsparcie procesu projektowego tak, aby szybciej powstawały **spójne, logiczne i dobrze ustrukturyzowane** modele opisujące działanie przyszłego systemu.+**Zakres:**   
 +  * generowanie dynamicznych zdarzeń (opóźnienia, korki, awarie),   
 +  * agenci negocjują zadania i priorytety,   
 +  * LLM interpretuje kontekst logistyczny i generuje plany w języku naturalnym,   
 +  * symulacja umożliwia porównanie obu wersji systemu.
  
-Pracujemy nad rozwiązaniem, które potrafi przetwarzać opisy w języku naturalnym i na ich podstawie automatycznie tworzyć **pierwsze wersje diagramów behawioralnych UML**. System podpowiada brakujące elementy, wykrywa niespójności oraz wskazuje miejsca wymagające doprecyzowania. Dzięki temu modelowanie staje się bardziej intuicyjne, a przy tym precyzyjne.+**Hipoteza badawcza:**   
 +MAS+LLM podejmuje trafniejsze i bardziej kontekstowe decyzje logistyczne, redukując liczbę przejazdów, konfliktów i opóźnień.
  
-W projekcie łączymy zalety generatywnej AI z elementami **formalnej analizy**, która pozwala sprawdzić poprawność logiki modelu i wczesne wychwytywanie potencjalnych błędów projektowych. Takie połączenie umożliwia budowę środowiska typu **inteligentne IDE**, wspierającego użytkownika na każdym kroku – od analizy wymagań, przez tworzenie modeli, aż po generowanie fragmentów kodu zgodnych z zaproponowaną strukturą.+**Metryki:**   
 +  * efektywność tras (km/pojazd),   
 +  * zbieżność decyzji z rekomendacją eksperta,   
 +  * liczba działań wykonanych proaktywnie.
  
-Projekt jest atrakcyjny dla osób zainteresowanych połączeniem **AI, modelowania UML, praktycznej inżynierii oprogramowania** oraz nowoczesnych narzędzi wspierających projektantów systemów.+===== ▶ HealthGuard MAS – agentowy system e-zdrowia z interpretacją kontekstu przez LLM =====
  
-**Publikacja:**   +**Opis projektu:**   
-[[https://doi.org/10.1145/3696630.3730562|artykuł na konferencji FSE 2025]]+Projekt polega na stworzeniu systemu monitorowania stanu pacjentów, w którym agenci odpowiadają za czujniki (tętno, saturacja, temperatura), pacjentów oraz jednostki reagujące.   
 +Wersja MAS klasyczna opiera się na progach alarmowych, podczas gdy wersja MAS+LLM interpretuje sytuację opisowo (np. „pacjent po ćwiczeniach rehabilitacyjnych”, „po podaniu leków występuje spodziewany wzrost tętna”).
  
 +**Zakres:**  
 +  * symulacja danych biometrycznych i zdarzeń medycznych,  
 +  * wykrywanie anomalii i alarmów,  
 +  * interpretacja opisowa przez LLM (uzasadnienia, wyjaśnienia),  
 +  * porównanie trafności decyzji i liczby fałszywych alarmów.
  
-===== ▶ Modelowanie Maszyn Stanowych z Wsparciem Logiki Formalnej (projekt IDE SQUARE) =====+**Hipoteza badawcza:**   
 +MAS+LLM redukuje fałszywe alerty i generuje bardziej kontekstowe decyzje medyczne.
  
-**Słowa kluczowe**:   +**Metryki:**   
-state machines, behavioural modelling, logical square of opposition, formal reasoning, automated modelling, LLM support+  * FP rate (fałszywe alarmy),   
 +  * trafność decyzji (zgodność z ekspertem),   
 +  * czas reakcji,   
 +  * czytelność wyjaśnień (ocena 1–5).
  
 +===== ▶ Animal Farm MAS – Agentowy System Opieki nad Zwierzętami i Optymalizacji Produkcji z LLM-Doradcą =====
  
-Projekt IDE SQUARE dotyczy nowoczesnego podejścia do **modelowania maszyn stanowych**, w którym proces projektowania wspierany jest zarówno przez struktury logiki formalnej, jak i inteligentne podpowiedzi generowane przez modele językowe (LLM). Celem jest ułatwienie tworzenia poprawnych, przejrzystych i logicznie spójnych modeli, które stanowią podstawę wielu systemów informatycznych — od aplikacji mobilnych po złożone systemy cyber-fizyczne.+<color #888888>Słowa kluczowe: Smart Animal Farming, Offspring Care, Animal Tracking, Toxic Gas Levels, Hydroponics, LLM Condition Monitoring, Predictive Health</color>
  
-Kluczowym elementem projektu jest wykorzystanie **kwadratu logicznego** jako narzędzia porządkującego analizę dziedziny. Pozwala on w sposób uporządkowany identyfikować stany, relacje między nimi (sprzeczność, przeciwieństwo, subalternacja), a także wykrywać sytuacje, które trudno zauważyć przy klasycznej analizie tekstowych wymagań. Dzięki temu powstają modele bardziej precyzyjne i wolne od ukrytych niespójności.+Opis projektu: Celem jest stworzenie agentowego systemu do kompleksowej opieki nad zwierzętami hodowlanymi i roślinami (w przypadku hydroponiki) w celu maksymalizacji ich zdrowia i wydajności. Agenci reprezentują czujniki monitorujące nowo narodzone potomstwo (Offspring Care), czujniki gazów toksycznych (związanych z wydzielinami zwierząt), urządzenia śledzące zwierzęta (Animal Tracking) oraz systemy kontroli hydroponiki.
  
-W projekcie rozwijamy również elementy automatyzacji, takie jak:+Wersja klasyczna alarmuje przy chorobie. Wersja MAS+LLM działa jako Doradca Weterynaryjny i Produkcyjny, interpretując złożony kontekst w celu proaktywnego zapobiegania problemom i optymalizacji.
  
-  * generowanie propozycji stanów i atrybutów na podstawie opisu w języku naturalnym,   +Zakres: 
-  * podpowiedzi przejść i zdarzeń wykrytych przez LLM,   +    * Symulacja danych: wahania warunków w budynkach inwentarskich (wentylacja, gazy), dane o lokalizacji zwierząt (pastwiska, stajnie) i warunki hydroponiczne.
-  * wstępna analiza niespójności na bazie struktur logicznych,   +
-  * automatyczna budowa szkieletów kodu powiązanego z maszyną stanów.  +
  
-Takie połączenie klasycznego modelowania z inteligentnym wsparciem tworzy podstawy **inteligentnego IDE**, które pomaga w projektowaniu systemów lepiej, szybciej i bardziej świadomie. Projekt jest atrakcyjny dla osób zainteresowanych logiką, AI, modelowaniem zachowań systemów oraz praktycznym wykorzystaniem narzędzi programistycznych wspomaganych przez sztuczną inteligencję.+    * LLM interpretuje wzorce: „Pojedynczy wzrost amoniaku w sektorze A jest alarmujący, ale brak oznak chorobowych u potomstwa sugeruje problem z wentylacją, a nie epidemię”.
  
-**Publikacja:**   +    * LLM generuje spersonalizowane plany opieki i hodowli (np. zmiana diety, optymalizacja mikroklimatu dla konkretnej grupy zwierząt).
-[[https://dl.acm.org/doi/10.1145/3691621.3694936|Artykuł na konferencji ASE 2024]]+
  
 +    * Porównanie wpływu interwencji LLM na zdrowie stada i efektywność upraw.
  
-===== ▶ System Benchmarkingowy dla Theorem Provers  (projekt IDE LOFT)=====+Hipoteza badawcza: MAS z LLM-Doradcą redukuje śmiertelność (szczególnie wśród potomstwa) i poprawia wydajność produkcji (zarówno zwierzęcej, jak i hydroponicznej) poprzez proaktywne i kontekstowe interwencje.
  
-**Słowa kluczowe**:   +Metryki:
-theorem provers, automated reasoning, logical benchmarks, formal verification, model checking, AI-assisted verification+
  
 +    * Wskaźnik śmiertelności/zachorowalności w grupie eksperymentalnej.
 + 
 +    * Procent zoptymalizowanej produkcji (np. większa efektywność upraw hydroponicznych).
  
-Projekt dotyczy stworzenia nowoczesnego i elastycznego systemu do **porównywania wydajności theorem proverów** – narzędzi stosowanych w automatycznym wnioskowaniu i formalnej weryfikacji. Celem jest zbudowanie środowiska, które potrafi generować różnorodne formuły logiczne, konwertować je do formatów wymaganych przez różne provery, a następnie badać ich zachowanie pod kątem czasu, pamięci oraz poprawności wyniku.+    * Trafność i szybkość diagnostyki proaktywnej (wykrycie problemu przed wystąpieniem objawów klinicznych).
  
-Tworzymy połączony zestaw dwóch narzędzi:   +---- 
-  * **Generatora** – który buduje formuły w logice pierwszego rzędu FOL, od prostych struktur po złożone konstrukcje obejmujące bezpieczeństwo, żywotność, kwantyfikatory, wzorce probabilistyczne i zależności inspirowane kwadratem logicznym.   +**Obszar tematyczny** 
-  * **Testera** – który uruchamia wybrane provery (np. Vampire, E, Z3, CVC5, SPASS, Prover9, InKreSAT), mierzy ich wydajność i zapisuje wyniki w czytelnych formatach.+====== ▶ Systemy i Środowiska Inteligentne ======
  
-System pozwala badać m.in.:   +<color #888888>**Słowa kluczowe**: 
-  * wpływ wielkości formuły na czas i pamięć,   +Intelligent Environments, Ambient Intelligence, Context-Aware Systems, IoT, Pervasive Computing, Smart Environments</color>
-  * różne długości klauzul i ich rozkłady (np. Poissona),   +
-  * proporcje safety/liveness,   +
-  * stopień powiązań między klauzulami,   +
-  * głębokość zagnieżdżenia kwantyfikatorów,   +
-  * wpływ operatorów, polaryzacji literałów i redundancji,   +
-  * formuły o strukturach inspirowanych kwadratem logicznym.+
  
-Projekt daje możliwość pracy z logiką, generowaniem danych, tworzeniem narzędzi developerskich oraz analizą eksperymentalną. Powstaje praktyczne środowisko benchmarkowe, które można wykorzystywać w badaniach, projektach inżynierskich oraz testowaniu rozwiązań formalnych. 
  
-**Publikacja:**   +<color #888888>Systemy i środowiska inteligentne (Intelligent Environments, Ambient Intelligence, pervasive / ubiquitous computing) to jedna z najbardziej dynamicznych i przyszłościowych dziedzin informatyki. Ich celem jest tworzenie przestrzeni – budynków, miast, szlaków górskich, lasów, stref przemysłowych – które **same rozumieją sytuację**, reagują na zmiany i wspierają użytkowników w sposób **dyskretny, proaktywny i kontekstowy**.</color>
-[[https://dl.acm.org/doi/10.1145/3756681.3757028|artykuł na konferencji EASE 2025]]+
  
  
-===== ▶ Automatyczne wspomaganie decyzji architektonicznych z wykorzystaniem LLM =====+<color #888888>To informatyka „zanurzona w otoczeniu”: tysiące czujników, urządzeń IoT, systemów komunikacji i modułów obliczeniowych pracuje w tle, integrując się w inteligentną warstwę wspomagającą ludzi. W takich środowiskach system *nie tylko zbiera dane*, ale potrafi:</color>
  
-Projekt dotyczy stworzenia systemu eksperckiego wspomaganego przez duży model językowy (LLM), którego zadaniem jest analiza wymagań projektowych oraz rekomendowanie optymalnej architektury systemu IT. Rozwiązanie adresuje realny problem w branży: nietrafione decyzje architektoniczne — wynikające z braku doświadczenia lub presji czasu — prowadzą do niskiej wydajności, problemów ze skalowalnością i rosnącego długu technicznego.+  * //analizować kontekst (np. warunki pogodowe, zachowania użytkowników, zagrożenia),// 
 +  * //przewidywać sytuacje (np. powstawanie zagrożeń),// 
 +  * //podejmować decyzje w czasie rzeczywistym),// 
 +  * //działać w sposób rozproszony, autonomiczny i skalowalny.//
  
-System działa jako interaktywny agent architektoniczny, który na podstawie opisu projektu sugeruje odpowiednie podejścia, takie jak architektura monolityczna, mikroserwisowa, event-driven lub serverless. Oprócz rekomendacji struktury systemu agent generuje także uzasadnienia, wzorce projektowe oraz reprezentacje modelowe, np. w PlantUML lub Structurizr. 
  
-Projekt obejmuje:+<color #888888>Dziedzina ta jest atrakcyjna ponieważ łączy **technologie przyszłości**: IoT, sztuczną inteligencję, agentowość, stream processing, systemy czasu rzeczywistego, analizę danych kontekstowych, a dodatkowo oferuje **realne scenariusze zastosowań**, takie jak:</color>
  
-  * //klasyfikację wymagań funkcjonalnych i niefunkcjonalnych,//   +  * //inteligentne wsparcie ratownictwa w górach,// 
-  * //mapowanie wymagań na decyzje architektoniczne,//   +  * //monitoring i przewidywanie zagrożeń w lasach,// 
-  * //projekt i implementację zestawu promptów,//   +  * //inteligentne miasta wspierające działania patrolowe,// 
-  * //budowę agenta rekomendującego architekturę na podstawie dialogu,//   +  * //inteligentne budynki, domy, sieci transportowe i obiekty przemysłowe.//
-  * //generowanie i wizualizację struktury systemu,//   +
-  * //analizę porównawczą wyników LLM z decyzjami architektów w rzeczywistych projektach,//   +
-  * //ocenę jakości rekomendacji, ryzyk i kompromisów architektonicznych.//+
  
-W ramach pracy przewidziana jest eksperymentalna ewaluacja pokazująca, czy rekomendacje oparte na LLM mogą konkurować z klasycznym procesem projektowym, a także jaką rolę mogą pełnić modele generatywne jako wsparcie dla architektów systemowych. 
  
-Efektem końcowym jest prototyp inteligentnego narzędzia wspierającego architekta IT oraz ocena jego przydatności w rozwiązywaniu realnych problemów projektowych.+<color #888888>Nowoczesne inteligentne środowiska są dziś coraz bardziej wzmacniane przez **agentów sterowanych GenAI/LLM**, którzy potrafią rozumieć kontekst semantycznie, przewidywać zachowania oraz współpracować ze sobą jak zespoły ludzkie.</color>
  
-===== ▶ Iteracyjna refaktoryzacja i samonaprawa smart kontraktów z użyciem LLM i formalnej analizy ===== 
  
-Projekt dotyczy opracowania zaawansowanego systemu, który łączy narzędzia formalnej analizy bezpieczeństwa smart kontraktów (np. Slither, Mythril, Echidna) z dużymi modelami językowymi (LLM). Celem jest stworzenie mechanizmu umożliwiającego iteracyjną refaktoryzację i samonaprawę kodu Solidity – system analizuje kontrakt, wykrywa podatności, generuje poprawki przy użyciu LLM, a następnie ponownie ocenia ich skuteczność w kolejnych cyklach.+<color #888888>Jest to obszar pełen wyzwań – od danych środowiskowych wysokiej zmienności, przez budowę cykli życia kontekstu i algorytmów proaktywnego wnioskowania, po tworzenie systemów odpornych i skalowalnych. Jednocześnie daje on szerokie możliwości tworzenia **innowacyjnych projektów o znaczeniu praktycznym**.</color>
  
-Praca rozwiązuje realny problem bezpieczeństwa w ekosystemie blockchain: błędy takie jak reentrancy, overflow, niepoprawna obsługa uprawnień czy błędne konstrukcje logiczne prowadzą do strat finansowych, ataków i awarii. Automatyzacja ich naprawy może istotnie poprawić jakość i odporność smart kontraktów.+----
  
-Zakres projektu obejmuje:+**Przykładowe tematy projektowe:**
  
-  * //analizę możliwości narzędzi do formalnej analizy i fuzz testów dla Solidity,//   +===== ▶ Monitorowanie środowiska górskiego i wspieranie ratowników =====
-  * //projekt interfejsu integrującego raporty tych narzędzi z LLM,//   +
-  * //opracowanie strategii promptowania (np. single-shot, iterative prompting, chain-of-thought),//   +
-  * //testowanie systemu na realnych i sztucznie przygotowanych kontraktach zawierających podatności,//   +
-  * //klasyfikację i pomiar skuteczności napraw generowanych przez LLM,//   +
-  * //próbę automatycznego hardeningu kontraktów na podstawie wiedzy modelu.//+
  
-System powinien wspierać wiele cykli analizy – po każdej zaproponowanej poprawce kontrakt jest ponownie weryfikowany, a LLM otrzymuje informację zwrotną o wykrytych problemach. Umożliwia to stopniowe ulepszanie kodu oraz badanie, jak modele generatywne radzą sobie z eliminowaniem różnych klas podatności.+Rozwijamy **zintegrowany system**, którego celem jest **bieżące monitorowanie środowiska górskiego** oraz **wspieranie działań ratowniczych** poprzez analizę danych kontekstowych, ocenę ryzyka i generowanie alertów w czasie zbliżonym do rzeczywistego. Pracujemy jednocześnie nad dwoma komplementarnymi elementami: **inteligentnym systemem wspierającym** oraz **symulatorem środowiska górskiego**, które razem tworzą spójny ekosystem informacyjny.
  
-Efektem końcowym jest prototyp systemu półautomatycznej samooptymalizacji i samonaprawy smart kontraktów, oceniony pod kątem trafności poprawek, redukcji podatności oraz ograniczeń tego podejścia. Projekt dostarcza także wniosków na temat przyszłości LLM w analizie i bezpieczeństwie kodu blockchain.+System wspierający przetwarza zróżnicowane strumienie danych, obejmujące m.in. lokalizacje turystów i zwierząt, odczyty stacji pogodowych, zgłoszenia zagrożeń lawinowych oraz sygnały z infrastruktury telekomunikacyjnej. Integrujemy te dane w **jednolity model sytuacyjny**, stosując podejścia logiczne, probabilistyczne i maszynowe w celu wykrywania anomalii, oceny poziomów zagrożeń i formułowania zaleceń operacyjnych. Tworzymy **architekturę mikrousługową o niskiej latencji**, umożliwiającą skalowalne przetwarzanie informacji przestrzenno-czasowych. 
 + 
 +Równolegle rozwijamy **symulator środowiska górskiego**, który odwzorowuje złożone zjawiska naturalne i behawioralne. Modelujemy dynamiczne warunki pogodowe, ewolucję pokrywy śnieżnej, zagrożenia lawinowe, ruch turystyczny, migracje zwierząt oraz ich wzajemne oddziaływania. Symulator stanowi **środowisko eksperymentalne**, pozwalające wytwarzać syntetyczne dane, badać scenariusze skrajne, testować algorytmy wykrywania zagrożeń i kalibrować moduły decyzyjne systemu wspierającego. 
 + 
 +Połączenie **perspektywy operacyjnej i symulacyjnej** umożliwia analizę zachowań i zagrożeń w rzeczywistych i hipotetycznych warunkach, tworząc podstawy do budowy **inteligentnych środowisk górskich** zdolnych do proaktywnego działania. To podejście sprzyja rozwijaniu metod przetwarzania kontekstu, tworzeniu usług ambient-aware oraz opracowywaniu narzędzi zwiększających bezpieczeństwo i skuteczność działań ratowniczych. 
 + 
 + 
 +**Materiały własne:** \\ 
 +[[https://www.sciencedirect.com/science/article/abs/pii/S0020025523013579?via%3Dihub|Artykuł w *Information Sciences* (Ambient-aware continuous aid for mountain rescue activities)]] \\ 
 +[[https://www.google.com/search?q=Radoslaw+Klimek+góry|Informacje medialne]] 
 + 
 + 
 +===== ▶ Monitorowanie lasów i kontekstowe wsparcie ochrony przeciwpożarowej ===== 
 + 
 +Rozwijamy **kontekstowy system monitorowania lasów**, którego celem jest **wczesne wykrywanie zagrożeń pożarowych** oraz **wspieranie operacji ochrony przeciwpożarowej**. Wykorzystujemy gęstą sieć czujników środowiskowych, analizę strumieni danych i inteligentne mechanizmy decyzyjne, tworząc rozwiązanie zdolne do ciągłej oceny sytuacji oraz szybkiej, automatycznej reakcji na zmieniające się warunki. 
 + 
 +System przetwarza dane o temperaturze, wilgotności, dynamice wiatru, koncentracji gazów i pyłów, integrując je w **wielowymiarowy model kontekstu**. Na tej podstawie określamy poziomy zagrożeń, identyfikujemy wczesne symptomy pożarów oraz klasyfikujemy ich stadium. Architektura opiera się na **rozproszonych agentach** odpowiedzialnych za zbieranie danych, analizę zagrożeń, planowanie działań oraz alokację zasobów. 
 + 
 +Wprowadzamy także **mechanizmy negocjacji automatycznej**, w których agenci reprezentujący różne jednostki strażackie uzgadniają sposób podziału zasobów i wybór sektorów interwencji. Wykorzystujemy modele **teorii gier** – m.in. strategie kooperacyjne, równowagi negocjacyjne i preferencyjne modele alokacji – aby umożliwić podejmowanie decyzji zgodnych z globalnym celem minimalizacji ryzyka i strat. W połączeniu z **uczeniem ze wzmocnieniem** pozwala to dynamicznie dostosowywać strategie reagowania do rozwoju sytuacji i dostępności brygad. 
 + 
 +Symulator środowiska leśnego umożliwia analizę różnych scenariuszy, od powolnych zarzewi po szybkie pożary frontowe. Odtwarzamy **modele rozprzestrzeniania ognia**, interakcje warstw środowiskowych, wpływ wiatru i ukształtowania terenu, a także zachowania agentów decyzyjnych. Symulator stanowi **środowisko eksperymentalne** do testowania algorytmów wykrywania zagrożeń, strategii podziału zasobów oraz skuteczności negocjacji opartych na teorii gier. 
 + 
 +Projekt integruje **przetwarzanie kontekstu**, **systemy wieloagentowe**, **modelowanie środowiskowe** i **negocjacje strategiczne**, tworząc nowoczesną platformę badawczą dla inteligentnych systemów ochrony przeciwpożarowej. 
 + 
 +**Materiały własne**:\\ 
 +  * [[https://aisel.aisnet.org/isd2014/proceedings2024/modelling/6/|Artykuł na konferencji ISD 2024 (System For Monitoring Forests with Context-Aware Capabilities)]]  
 + 
 +===== ▶ Inteligentne interwencje policyjne (smart gun) ===== 
 + 
 +Rozwijamy **kontekstowy system wspierający interwencje policyjne**, w którym inteligentne moduły smart-gun, urządzenia mobilne oraz systemy nawigacyjne tworzą spójne środowisko przetwarzania danych. Broń służbowa jest traktowana jako **sensor kontekstu**, inicjujący procesy decyzyjne w systemie — w momencie nieplanowanego oddania strzału system automatycznie analizuje sytuację i wyszukuje patrole zdolne do udzielenia wsparcia. 
 + 
 +System działa w ramach **wieloagentowej architektury (MAS)**, obejmującej m.in. centrum zarządzania (MC), patrole policyjne (PP), agentów broni (Gn), agentów nawigacji (Nv), agentów komunikacyjnych (X) oraz agentów reprezentujących służby wspierające (np. ambulanse, drony). Każdy agent przetwarza wybrane zmienne kontekstowe, związane z czasem, lokalizacją, typem zdarzenia, stanem patrolu oraz relacjami przestrzennymi w mieście. Kontekst jest modelowany z użyciem kategorii oraz operacyjnych relacji przetwarzania (R6), co pozwala na kontrolowanie przepływu i transformacji danych w cyklu: akwizycja – modelowanie – przechowywanie – wnioskowanie – działanie. 
 + 
 +Kluczowym elementem systemu jest **mechanizm wyboru patroli wsparcia** dla interwencji o podwyższonym ryzyku. Wykorzystujemy do tego **zadanie ważonego MaxSAT**, w którym zmienne odpowiadają m.in. stanowi patrolu, położeniu geograficznemu, charakterystyce dzielnicy oraz odległości od miejsca zdarzenia. Wagi odzwierciedlają priorytety operacyjne: preferowane są patrole w stanie obserwacji, z bezpieczniejszych dzielnic oraz znajdujące się relatywnie blisko zdarzenia, przy jednoczesnym uwzględnieniu dostępności zasobów. Rozwiązanie zadania MaxSAT generuje listę jednostek wsparcia, zapewniając kompromis między szybkością reakcji, bezpieczeństwem a efektywnym wykorzystaniem sił. 
 + 
 +Całość jest testowana w **symulatorze miejskiego środowiska**, który odtwarza układ ulic, podział na dzielnice o różnym poziomie bezpieczeństwa, generuje interwencje oraz incydenty z użyciem broni. Symulacja pozwala analizować obciążenie patroli, dynamikę zdarzeń, czasy reakcji oraz jakość decyzji alokacyjnych. Wyniki potwierdzają możliwość zastosowania proponowanego podejścia w inteligentnych środowiskach miejskich, w których **kontekst, dane przestrzenno-czasowe i architektura wieloagentowa** wspólnie wspierają automatyzację i orkiestrację decyzji w systemach bezpieczeństwa publicznego. 
 + 
 +**Materiały własne**: \\  
 +  * [[https://aisel.aisnet.org/isd2014/proceedings2022/managingdevops/5/|Artykuł na konferencji ISD 2022  (Police Interventions as a Context-aware System. A Case of a Contextual Data Modelling)]]  
 + 
 +===== ▶ Inteligentny asystent turysty ===== 
 + 
 +Rozwijamy wielomodułowy, kontekstowy **asystent turysty**, którego celem jest automatyczne generowanie 
 +spersonalizowanych planów zwiedzania miast i regionów. System integruje wiele źródeł danych o preferencjach użytkownika, 
 +uwzględnia aktualny kontekst środowiskowy (pogoda, dostępność atrakcji, godziny otwarcia) i tworzy 
 +optymalne trasy zwiedzania, dostosowane do ograniczeń czasowych i logistycznych. 
 + 
 +Budujemy rozwiązanie, które łączy **NLP i analizę sentymentu**, modele klasyfikacji preferencji, moduły rekomendacyjne POI, 
 +oraz **heurystyczną optymalizację tras (VRPTW)**, generując wielodniowe, spójne i dynamicznie aktualizowane itineraria. 
 +System przetwarza dane z chatbotów, mediów społecznościowych, dokumentów tekstowych oraz kwestionariuszy, 
 +tworząc wektorowy profil zainteresowań i priorytetów turysty. 
 + 
 +W warstwie rekomendacyjnej wykorzystujemy semantyczne dopasowanie opisów atrakcji do profilu użytkownika, 
 +Bayesowskie metody oceny jakości POI (Wilson score), a także real-time filtering zależny od pogody, 
 +dostępności i kontekstu lokalnego. Kolejne etapy obejmują klastrowanie dzienne (K-Means) oraz budowę tras 
 +z użyciem algorytmów **Christofidesa, 2-opt, A\***, z uwzględnieniem okien czasowych i długości przejść. 
 + 
 +Tworzymy rozwiązanie, które ma zastosowanie w inteligentnych miastach, systemach informacji turystycznej, 
 +aplikacjach mobilnych, a także jako komponent wirtualnych biur turystycznych. Projekt obejmuje również rozwój 
 +interfejsu mapowego (Leaflet / OpenStreetMap) i integracji z usługami transportu publicznego. 
 + 
 +**Materiały własne**:   
 +  * [[https://aisel.aisnet.org/pacis2025/transform/transform/1/|Artykuł na konferencji PACIS 2025 (Context-aware Intelligent Tourist Assistant)]]   
 + 
 +===== ▶ Syntetyczne trajektorie mobilności turystów w miastach ===== 
 + 
 +Rozwijamy system generowania **syntetycznych trajektorii mobilności turystów**, który umożliwia modelowanie zachowań odwiedzających w dowolnym mieście – także tam, gdzie rzeczywiste dane telekomunikacyjne są niedostępne z powodów prawnych lub kosztowych. Wykorzystujemy profile behawioralne, informacje geograficzne (GIS), rekomendacje POI oraz reguły opisujące preferencje i ograniczenia użytkowników, tworząc realistyczne i powtarzalne modele ruchu. 
 + 
 +Model łączy komponenty odpowiedzialne za wybór punktów POI, planowanie sekwencji odwiedzin, konstrukcję tras opartych o dane OSM lub usługi routingu oraz generowanie pełnych trajektorii czasoprzestrzennych. System pozwala definiować ograniczenia *what–when–where*, testować scenariusze typu „co-jeśli” oraz badać zakłócenia mobilności, takie jak zamknięcia obiektów, zmiany organizacji ruchu czy ograniczenia transportowe. 
 + 
 +Generator może tworzyć dane na dowolną skalę, z kontrolą poziomu realizmu poprzez integrację preferencji turystów, okien czasowych, dostępności obiektów oraz różnych profili wizyt (kulturalnych, rekreacyjnych, mieszanych). Ważnym elementem jest także generowanie **narracji tekstowych**, które zwiększają interpretowalność danych i pozwalają na jakościową ocenę zachowań. 
 + 
 +Projekt wspiera rozwój **inteligentnych środowisk miejskich**, dostarczając syntetycznych danych mobilności nieosiągalnych w tradycyjny sposób. Umożliwia testowanie systemów smart-city, budowę modeli predykcyjnych, badanie przepływów turystycznych oraz symulowanie sytuacji nietypowych lub kryzysowych.
  
 +**Materiały własne**: \\ 
 +  * [[https://link.springer.com/chapter/10.1007/978-3-030-77970-2_47|Artykuł na konferencji ICCS 2021 (Profile-Driven Synthetic Trajectories Generation to Enhance Smart System Solutions)]]  
  
 ---- ----
Linia 307: Linia 394:
 Projekt jest atrakcyjny dla osób zainteresowanych analizą danych, logiką, formalną weryfikacją, automatyzacją oraz praktycznym zastosowaniem Process Mining w biznesie i systemach informatycznych. Projekt jest atrakcyjny dla osób zainteresowanych analizą danych, logiką, formalną weryfikacją, automatyzacją oraz praktycznym zastosowaniem Process Mining w biznesie i systemach informatycznych.
  
-**Publikacja:** +**Materiały własne:** 
-[[https://dl.acm.org/doi/10.1145/3695750.3695822|Artykuł na konferencji ASE 2024]] +[[https://dl.acm.org/doi/10.1145/3695750.3695822|Artykuł na konferencji ASE 2024 (Automatic Generation of Logical Specifications for Behavioural Models)]]
  
 ===== ▶ Wyjaśnialna weryfikacja workflow z wykorzystaniem Shapley Values ===== ===== ▶ Wyjaśnialna weryfikacja workflow z wykorzystaniem Shapley Values =====
Linia 333: Linia 419:
  
 Projekt ma również wymiar eksperymentalny — analizowane są różne metody przybliżania Shapley Values (Monte Carlo vs. Random Subset Sampling), ich stabilność, koszt obliczeniowy i interpretowalność. To otwiera drogę do tworzenia narzędzi developerskich wspierających praktyków process mining. Projekt ma również wymiar eksperymentalny — analizowane są różne metody przybliżania Shapley Values (Monte Carlo vs. Random Subset Sampling), ich stabilność, koszt obliczeniowy i interpretowalność. To otwiera drogę do tworzenia narzędzi developerskich wspierających praktyków process mining.
 +
  
 ---- ----
 **Obszar tematyczny** **Obszar tematyczny**
-====== ▶ LLM i Generatywna Sztuczna Inteligencja ======+====== ▶  Modele Oprogramowania i Formalna Weryfikacja ======
  
 <color #888888>**Słowa kluczowe**:   <color #888888>**Słowa kluczowe**:  
-Large Language Models, Generative AI, Reasoning, Context Understanding, Agentic AI, Multimodal Processing, Explainability</color>+model-driven software engineering, formal methods, AI-IDE, logical verification, automated code generation, technical debt analysis, LLM support, explainability</color>
  
  
-<color #888888>Generatywna Sztuczna Inteligencja, a w szczególności duże modele językowe (LLM), zmienia sposób projektowania systemów informatycznych. Modele te potrafią rozumieć język naturalny, generować treści, interpretować kontekst, analizować dane oraz wspierać podejmowanie decyzji. Wprowadzają nową jakość w obszarach takich jak programowanie, modelowanie, analiza procesów, interakcja człowiek–komputer czy inteligentne środowiska.</color>+<color #888888>Modele oprogramowania i formalna weryfikacja stanowią podstawę budowy systemów, które są **spójne, bezpieczne i możliwe do logicznego uzasadnienia**. Pozwalają przechodzić od wymagań i opisów zachowania do precyzyjnych modeli, które można analizować, transformować oraz automatycznie przekształcać w działające komponenty oprogramowania.</color>
  
  
-<color #888888>LLM są „game changerem”, ponieważ:</color>+<color #888888>Współczesne środowiska inżynierii oprogramowania coraz częściej wykorzystują **zintegrowane narzędzia AI-IDE**, łączące generatywną sztuczną inteligencję z technikami analizy i weryfikacji formalnej. Dzięki temu możliwe jest:</color>
  
-  * //działają uniwersalnie — mogą analizować, streszczać, projektować i generować,//   +  * //automatyczne tworzenie i uzupełnianie modeli behawioralnych (diagramy aktywności, maszyny stanów),//   
-  * //rozumieją opisy zadań i potrafią tworzyć formalne artefakty (kod, modele, reguły),//   +  * //dedukcyjna analiza semantyczna i wykrywanie niespójności,//   
-  * //łączą dane symboliczne i opisowe, umożliwiając semantyczną interpretację kontekstu,//   +  * //automatyczna identyfikacja i kategoryzacja długu technicznego,//   
-  * //umożliwiają tworzenie agentów potrafiących samodzielnie planować działania,//   +  * //zapewnienie śladowalności i wyjaśnialności na bazie logicznych reprezentacji,//   
-  * //działają multimodalnie (tekst, obraz, dane), co otwiera nowe zastosowania.//+  * //projektowanie systemów zgodnie z zasadami correctness-by-construction.//
  
  
-<color #888888>Jednocześnie obszar ten wiąże się z wyzwaniami: kontrolą jakości generacji, stabilnością wyników, interpretowalnością, bezpieczeństwem, halucynacjami oraz potrzebą integrowania modeli z klasycznymi narzędziami analitycznymi i weryfikacyjnymi. To czyni tę dziedzinę intensywnie rozwijaną i badawczo bardzo atrakcyjną.</color>+<color #888888>Dług techniczny oznacza **ukryte koszty wynikające z uproszczonych decyzji projektowych lub implementacyjnych**, które przyspieszają powstawanie systemu, ale później wymagają dodatkowej pracy, refaktoryzacji lub modyfikacji. Modele formalne i automatyczne analizy pozwalają ten dług _wykrywać, mierzyć i skutecznie redukować_. </color>
  
  
-<color #888888>LLM stają się fundamentem nowych platform obliczeniowych, środowisk developerskich, narzędzi analitycznych i systemów agentowych. Ich skuteczne wykorzystanie wymaga zrozumienia ich możliwości, ograniczeń oraz metod łączenia ich z klasycznymi technikami inżynierii oprogramowania.</color>+<color #888888>Obszar obejmuje wykorzystanie różnorodnych środowisk developerskich i akademickich IDE wspieranych przez LLM, edytory modeli, logiki temporalne, narzędzia SMT/ATP oraz mechanizmy przekształceń modeli. Umożliwia to budowę **inteligentnych, wyjaśnialnych i weryfikowalnych środowisk programistycznych**, wspierających cały cykl życia oprogramowania.</color>
  
 ---- ----
Linia 363: Linia 450:
 **Przykładowe tematy projektowe:** **Przykładowe tematy projektowe:**
  
-===== ▶ Analiza kreatywności człowieka i LLM =====+===== ▶ Modelowanie wymagań systemu z użyciem LLM i ich weryfikacja logiczna (projekt LoRE+)=====
  
-Projekt bada różnice w kreatywności pomiędzy ludźmi a dużymi modelami językowymi.   +**Słowa kluczowe**:   
-Zestaw zadań kreatywnych (np. generowanie nowych pomysłów, wariantów rozwiązań, nietypowych interpretacji) jest wykonywany przez uczestników oraz przez LLM.   +LLM-assisted modelling, Requirements Engineering, UML, Formal Verification, Deductive Reasoning, AI-IDE
-Oceniane są takie aspekty jak: oryginalność, różnorodność, użyteczność i odwaga poznawcza.   +
-Celem projektu jest zrozumienie, jak modele generatywne realizują myślenie dywergencyjne oraz w jakich obszarach nadal przewagę mają ludzie.   +
-Projekt może obejmować eksperymenty, analizę statystyczną wyników oraz wizualizację profilu kreatywności obu stron.+
  
----- 
  
-===== ▶ Hybrid Reasoning: Integracja LLM z Dedukcyjnymi Systemami Wiedzy =====+**Słowa kluczowe**:   
 +LLM-assisted modelling, Requirements Engineering, UML, AI-IDE, formal analysis, smart modelling
  
-<color #888888>Słowa kluczowe: Formal Logic, Dedukcja, Reasoning, Explainable AI (XAI), Semantic Interoperability, Halucynacje</color>+Projekt dotyczy tworzenia nowoczesnego środowiska, w którym **inteligentne modele językowe (LLM)** pomagają w budowaniu i analizowaniu wymagań systemowych. Celem jest wsparcie procesu projektowego tak, aby szybciej powstawały **spójne, logiczne i dobrze ustrukturyzowane** modele opisujące działanie przyszłego systemu.
  
-Projekt bada innowacyjne podejście do wnioskowania, łącząc elastyczność i kreatywność Dużych Modeli Językowych (LLM) z precyzją i weryfikowalnością klasycznych silników wnioskujących (np. systemy reguł, Solvery, bazy danych grafów logicznych).+Pracujemy nad rozwiązaniem, które potrafi przetwarzać opisy w języku naturalnym i na ich podstawie automatycznie tworzyć **pierwsze wersje diagramów behawioralnych UML**. System podpowiada brakujące elementy, wykrywa niespójności oraz wskazuje miejsca wymagające doprecyzowania. Dzięki temu modelowanie staje się bardziej intuicyjne, a przy tym precyzyjne.
  
-Celem jest stworzenie systemu, w którym LLM pełni funkcję Interpretera Języka Naturalnego (tłumacząc zapytania na formalne reguły) oraz Generatywnego Proponującego (tworząc wstępne hipotezy). Następnie, klasyczny silnik dedukcyjny przejmuje rolę Weryfikatora i Finalnego Wnioskującego, gwarantując logiczną spójność i poprawność wyniku.+W projekcie łączymy zalety generatywnej AI z elementami **formalnej analizy**, która pozwala sprawdzić poprawność logiki modelu i wczesne wychwytywanie potencjalnych błędów projektowych. Takie połączenie umożliwia budowę środowiska typu **inteligentne IDE**, wspierającego użytkownika na każdym kroku – od analizy wymagań, przez tworzenie modeli, aż po generowanie fragmentów kodu zgodnych z zaproponowaną strukturą.
  
-Projekt wymaga implementacji technik konwersji języka naturalnego na formalne reguły oraz ewaluacji, w jaki sposób model hybrydowy poprawia weryfikowalność i ogranicza halucynacje w zadaniach wymagających ścisłej logiki.+Projekt jest atrakcyjny dla osób zainteresowanych połączeniem **AI, modelowania UML, praktycznej inżynierii oprogramowania** oraz nowoczesnych narzędzi wspierających projektantów systemów.
  
-===== ▶ Detekcja i Mitigacja Halucynacji w Modelach LLM przy Użyciu RAG =====+**Materiały własne:**  \\ 
 +[[https://doi.org/10.1145/3696630.3730562|Artykuł na konferencji FSE 2025 (RE-oriented Model Development with LLM Support and Deduction-based Verification)]]
  
-<color #888888>Słowa kluczowe: Retrieval-Augmented Generation (RAG), Context Understanding, Data Quality, Prompt Engineering, Halucynacje, Faithfulness</color> 
  
-Halucynacje (generowanie nieprawdziwych, ale brzmiących wiarygodnie informacji) są kluczowym wyzwaniem w zastosowaniach LLM opartych na wiedzy. Projekt skupia się na stworzeniu zaawansowanego frameworku RAG, który ma na celu minimalizację halucynacji i zwiększenie weryfikowalności odpowiedzi w oparciu o zaufaną bazę wiedzy.+===== ▶ Modelowanie Maszyn Stanowych z Wsparciem Logiki Formalnej (projekt IDE SQUARE) =====
  
-Innowacja polega na udoskonaleniu trzech kluczowych etapów RAG:+**Słowa kluczowe**:   
 +state machines, behavioural modelling, logical square of opposition, formal reasoning, automated modelling, LLM support
  
-    Pobieranie Kontekstu: Eksperymentowanie z zaawansowanymi strategiami pobierania (np. Multi-Hop RAG, Re-ranking). 
  
-    Generacja: Optymalizacja promptów, aby wymagały od LLM cytowania źródła dla każdego faktu.+Projekt IDE SQUARE dotyczy nowoczesnego podejścia do **modelowania maszyn stanowych**, w którym proces projektowania wspierany jest zarówno przez struktury logiki formalnej, jak i inteligentne podpowiedzi generowane przez modele językowe (LLM). Celem jest ułatwienie tworzenia poprawnych, przejrzystych i logicznie spójnych modeli, które stanowią podstawę wielu systemów informatycznych — od aplikacji mobilnych po złożone systemy cyber-fizyczne.
  
-    Autoweryfikacja (Self-Correction/Critique): Opracowanie drugiego etapu, w którym model krytycznie ocenia swoją własną odpowiedź w kontekście pobranych dokumentów, identyfikując i korygując potencjalne halucynacje.+Kluczowym elementem projektu jest wykorzystanie **kwadratu logicznego** jako narzędzia porządkującego analizę dziedziny. Pozwala on w sposób uporządkowany identyfikować stany, relacje między nimi (sprzeczność, przeciwieństwo, subalternacja), a także wykrywać sytuacje, które trudno zauważyć przy klasycznej analizie tekstowych wymagań. Dzięki temu powstają modele bardziej precyzyjne i wolne od ukrytych niespójności.
  
-Efektem jest implementacja architektury RAG oraz ewaluacja wskaźników Faithfulness (wierność źródłu) i Answer Relevance (trafność odpowiedzi).+W projekcie rozwijamy również elementy automatyzacji, takie jak:
  
-===== ▶ Etyka i Bezpieczeństwo: Implementacja Warstw Ochronnych (Guardrails) dla LLM =====+  * generowanie propozycji stanów i atrybutów na podstawie opisu w języku naturalnym,   
 +  * podpowiedzi przejść i zdarzeń wykrytych przez LLM,   
 +  * wstępna analiza niespójności na bazie struktur logicznych,   
 +  * automatyczna budowa szkieletów kodu powiązanego z maszyną stanów.  
  
-<color #888888>Słowa kluczowe: Safety, Security, Responsible AI, Guardrails, Prompt Injection, Jailbreaking, Content Moderation</color>+Takie połączenie klasycznego modelowania z inteligentnym wsparciem tworzy podstawy **inteligentnego IDE**, które pomaga w projektowaniu systemów lepiej, szybciej i bardziej świadomie. Projekt jest atrakcyjny dla osób zainteresowanych logiką, AI, modelowaniem zachowań systemów oraz praktycznym wykorzystaniem narzędzi programistycznych wspomaganych przez sztuczną inteligencję.
  
-LLM wdrożone w środowiskach produkcyjnych wymagają silnych mechanizmów bezpieczeństwa, zwanych Guardrails (Bariery Ochronne), które kontrolują zarówno intencję użytkownika (wejście), jak i treść generowaną przez model (wyjście).+**Materiały własne:**  \\ 
 +[[https://dl.acm.org/doi/10.1145/3691621.3694936|Artykuł na konferencji ASE 2024 (Logical square-driven and state-oriented generation of behavioural models)]]
  
-Projekt polega na zaprojektowaniu i zaimplementowaniu modułu Guardrails, który chroni system przed: 
  
-    Prompt Injection/Jailbreaking: Złośliwymi instrukcjami mającymi na celu złamanie wewnętrznych reguł LLM.+===== ▶ System Benchmarkingowy dla Theorem Provers  (projekt IDE LOFT)=====
  
-    Generowaniem Szarej Strefy (Harmful Content): Uzyskaniem toksycznych, nieetycznych lub poufnych informacji.+**Słowa kluczowe**:   
 +theorem provers, automated reasoning, logical benchmarks, formal verification, model checking, AI-assisted verification
  
-Moduł ten działa jako pośrednik między użytkownikiem a LLM, wykorzystując techniki takie jak klasyfikatory semantyczne do walidacji intencji oraz Output Filtering do sprawdzania zgodności wygenerowanej odpowiedzi z polityką bezpieczeństwa. 
  
-Oczekiwany rezultat to gotowy moduł Guardrails, który jest testowany pod kątem odporności na ataki i skuteczności w zapobieganiu niepożądanym treściom.+Projekt dotyczy stworzenia nowoczesnego i elastycznego systemu do **porównywania wydajności theorem proverów** – narzędzi stosowanych w automatycznym wnioskowaniu i formalnej weryfikacji. Celem jest zbudowanie środowiska, które potrafi generować różnorodne formuły logiczne, konwertować je do formatów wymaganych przez różne provery, a następnie badać ich zachowanie pod kątem czasu, pamięci oraz poprawności wyniku.
  
----- +Tworzymy połączony zestaw dwóch narzędzi:   
-**Obszar tematyczny** +  * **Generatora** – który buduje formuły w logice pierwszego rzędu FOL, od prostych struktur po złożone konstrukcje obejmujące bezpieczeństwo, żywotność, kwantyfikatory, wzorce probabilistyczne i zależności inspirowane kwadratem logicznym.   
-====== ▶ Systemy Agentowe (MAS) sterowane przez GenAI/LLM ======+  * **Testera** – który uruchamia wybrane provery (np. Vampire, E, Z3, CVC5, SPASS, Prover9, InKreSAT), mierzy ich wydajność i zapisuje wyniki w czytelnych formatach.
  
-<color #888888>**Słowa kluczowe**:   +System pozwala badać m.in.:   
-Multi-Agent Systems, Agentic AI, LLM-driven Agents, AutoGen, LangGraph, Generative AI, Context-Aware Agents, Proactive Systems</color>+  * wpływ wielkości formuły na czas i pamięć,   
 +  * różne długości klauzul i ich rozkłady (np. Poissona),   
 +  * proporcje safety/liveness,   
 +  * stopień powiązań między klauzulami,   
 +  * głębokość zagnieżdżenia kwantyfikatorów,   
 +  * wpływ operatorów, polaryzacji literałów i redundancji,   
 +  * formuły o strukturach inspirowanych kwadratem logicznym.
  
 +Projekt daje możliwość pracy z logiką, generowaniem danych, tworzeniem narzędzi developerskich oraz analizą eksperymentalną. Powstaje praktyczne środowisko benchmarkowe, które można wykorzystywać w badaniach, projektach inżynierskich oraz testowaniu rozwiązań formalnych.
  
-<color #888888>Systemy agentowe (MAS) umożliwiają budowę rozproszonych, autonomicznych i współpracujących komponentów, które wspólnie realizują złożone zadania. Wraz z pojawieniem się nowoczesnych modeli językowych (LLM), klasyczne podejście do MAS ewoluuje: zamiast sztywnych reguł i wbudowanych planów, agenci zyskują zdolność semantycznego rozumienia sytuacji, generowania planów, analizowania kontekstu oraz elastycznego reagowania na zmiany w środowisku.</color>+**Materiały własne:**  \\ 
 +* [[https://arxiv.org/abs/2505.17979|Artykuł na konferencji EASE 2025 (Re-evaluation of Logical Specification in Behavioural Verification)]]
  
  
-<color #888888>W architekturach MAS wzbogaconych o GenAI, LLM pełni rolę adaptacyjnego „umysłu” agenta. Dzięki temu agent potrafi:</color>+===== ▶ Ocena możliwości modeli LLM w automatycznym wspieraniu aktywności cyklu życia oprogramowania =====
  
-  * //interpretować kontekst na podstawie opisów tekstowych, danych IoT i informacji środowiskowych,//   +Projekt koncentruje się na opracowaniu i eksperymentalnym zbadaniu możliwości dużych modeli językowych (LLM) w automatycznym wspieraniu poszczególnych aktywności cyklu życia oprogramowania (Software Development Life Cycle). Celem jest zrozumienie, w jakim zakresie nowoczesne modele – takie jak GPT-4.1, Claude 3.5 Sonnet czy Llama 3.1 – mogą realnie wspomagać inżynierów w zadaniach analitycznych, projektowych, implementacyjnych i testowych.
-  * //planować działania i przewidywać konsekwencje decyzji,//   +
-  * //komunikować się z innymi agentami w języku naturalnym,//   +
-  * //negocjować role, priorytety i strategie,//   +
-  * //uczyć się nowych zadań bez przebudowy kodu,//   +
-  * //działać proaktywnie i adaptacyjnie w dynamicznym środowisku.//+
  
 +Ideą projektu jest stworzenie wieloaspektowego benchmarku obejmującego zadania reprezentujące kluczowe obszary SDLC oraz porównanie jakości odpowiedzi różnych modeli. Pozwoli to ocenić ich przydatność, ograniczenia oraz potencjalne ryzyka związane z wykorzystaniem w procesach inżynierii oprogramowania.
  
-<color #888888>Współczesne platformy takie jak AutoGen, CrewAI czy LangGraph pozwalają tworzyć środowiska, w których wiele agentów LLM współpracuje, dzieli się wiedzą, koordynuje zadania i prowadzi rozmowy w celu osiągnięcia celu. Połączenie MAS+LLM otwiera nowe możliwości w systemach inteligentnych, symulacjach, inteligentnych miastach, przemyśle, bezpieczeństwie i logistyce.</color>+Możliwe kierunki realizacji obejmują:
  
 +* Analiza wymagań – wykrywanie niejednoznaczności, doprecyzowanie funkcjonalności, generowanie user stories i kryteriów akceptacji.
  
-<color #888888>W podejściu hybrydowym agenci mogą działać jednocześnie na dwóch poziomach:   +* Modelowanie i architektura – tworzenie opisów architektury, dekompozycja modułów, analiza API i rekomendacje wzorców projektowych.
-  * **operacyjnym** – realizując działania w środowisku (percepcja → interpretacja → decyzja),   +
-  * **strategicznym** – gdzie LLM wspiera rozumowanie, generację planów, wykrywanie anomalii i wyjaśnialność działań.</color>+
  
 +* Generowanie i refaktoring kodu – implementacja funkcji na podstawie opisu, poprawa jakości kodu, wykrywanie błędów oraz uzasadnianie zmian.
  
-<color #888888>Systemy te stają się szczególnie wartościowe tam, gdzie potrzebna jest współpraca wielu jednostek (fizycznych lub programowych), dynamiczne reagowanie na kontekst oraz zdolność do przetwarzania informacji nieustrukturyzowanych. To obszar niezwykle aktualny, intensywnie rozwijany badawczo i oferujący ogromny potencjał projektowy.</color>+* Projektowanie testów – tworzenie przypadków testowych (w tym brzegowych), generowanie testów jednostkowych i analiza zgłoszonych błędów.
  
-----+* Wsparcie DevOps / CI-CD – analiza konfiguracji pipeline, wykrywanie problemów w YAML, dobre praktyki bezpieczeństwa i interpretacja logów.
  
-**Przykładowe tematy projektowe:**+* Metodyka oceny jakości – opracowanie jednolitego systemu scoringu (0–3), zastosowanie testów automatycznych do kodu oraz ewaluacja odpowiedzi za pomocą LLM-sędziego.
  
-===== ▶ Inteligentny Kampus – Agenci LLM zarządzający środowiskiem IoT =====+Projekt pozwala zrozumieć, które obszary cyklu życia są najbardziej podatne na automatyzację z wykorzystaniem AI, a gdzie modele językowe wykazują istotne ograniczenia. Może obejmować implementację benchmarku SDLC-LLM, porównanie modeli, analizę błędów oraz propozycje rekomendacji i dobrych praktyk wykorzystania LLM w projektach informatycznych.
  
-**Opis projektu:**   +===== ▶ Automatyczne wspomaganie decyzji architektonicznych z wykorzystaniem LLM =====
-Celem jest stworzenie symulowanego (lub częściowo rzeczywistego) inteligentnego kampusu, w którym wiele agentów (czujniki, pomieszczenia, użytkownicy, usługi) współpracuje, podejmując decyzje na podstawie danych IoT oraz opisów kontekstowych interpretowanych przez LLM.   +
-Projekt zakłada porównanie dwóch wersji systemu: klasycznego MAS oraz MAS z agentami sterowanymi GenAI.+
  
-**Zakres:**   +Projekt dotyczy stworzenia systemu eksperckiego wspomaganego przez duży model językowy (LLM), którego zadaniem jest analiza wymagań projektowych oraz rekomendowanie optymalnej architektury systemu IT. Rozwiązanie adresuje realny problem w branży: nietrafione decyzje architektoniczne — wynikające z braku doświadczenia lub presji czasu — prowadzą do niskiej wydajności, problemów ze skalowalnością i rosnącego długu technicznego.
-  * agenci reprezentują sale, czujniki, użytkowników i harmonogram,   +
-  * LLM interpretuje opisy sytuacji („sala przepełniona”, „upłynęła rezerwacja”),   +
-  * agenci prowadzą negocjacje dot. zasobów (sale, energia, wentylacja),   +
-  * system reaguje proaktywnie (np. reorganizacja przy dużym obciążeniu).+
  
-**Hipoteza badawcza:**   +System działa jako interaktywny agent architektoniczny, który na podstawie opisu projektu sugeruje odpowiednie podejścia, takie jak architektura monolityczna, mikroserwisowa, event-driven lub serverless. Oprócz rekomendacji struktury systemu agent generuje także uzasadnienia, wzorce projektowe oraz reprezentacje modelowe, np. w PlantUML lub Structurizr.
-MAS+LLM będzie lepiej rozumieć kontekst i podejmować decyzje bardziej adekwatne semantycznie niż bazowy MAS.+
  
-**Przykładowe metryki:**   +Projekt obejmuje:
-  * liczba poprawnych interpretacji kontekstu,   +
-  * czas reakcji,   +
-  * liczba iteracji negocjacji między agentami,   +
-  * skuteczność proaktywnego działania.+
  
-===== ▶ Smart Logistics MAS – wieloagentowe zarządzanie flotą z LLM-plannerem =====+  * //klasyfikację wymagań funkcjonalnych i niefunkcjonalnych,//   
 +  * //mapowanie wymagań na decyzje architektoniczne,//   
 +  * //projekt i implementację zestawu promptów,//   
 +  * //budowę agenta rekomendującego architekturę na podstawie dialogu,//   
 +  * //generowanie i wizualizację struktury systemu,//   
 +  * //analizę porównawczą wyników LLM z decyzjami architektów w rzeczywistych projektach,//   
 +  * //ocenę jakości rekomendacji, ryzyk i kompromisów architektonicznych.//
  
-**Opis projektu:**   +W ramach pracy przewidziana jest eksperymentalna ewaluacja pokazująca, czy rekomendacje oparte na LLM mogą konkurować z klasycznym procesem projektowym, a także jaką rolę mogą pełnić modele generatywne jako wsparcie dla architektów systemowych.
-Celem jest stworzenie środowiska logistycznego (miasto, kampus lub sieć transportowa), w którym agenci reprezentują pojazdy, magazyny, punkty odbioru i centra planowania.   +
-Wersja klasyczna bazuje na regułach i prostych heurystykach, natomiast wersja GenAI wykorzystuje LLM do planowania tras, priorytetów i negocjacji między agentami.+
  
-**Zakres:**   +Efektem końcowym jest prototyp inteligentnego narzędzia wspierającego architekta IT oraz ocena jego przydatności w rozwiązywaniu realnych problemów projektowych.
-  * generowanie dynamicznych zdarzeń (opóźnienia, korki, awarie),   +
-  * agenci negocjują zadania i priorytety,   +
-  * LLM interpretuje kontekst logistyczny i generuje plany w języku naturalnym,   +
-  * symulacja umożliwia porównanie obu wersji systemu.+
  
-**Hipoteza badawcza:**   +===== ▶ Iteracyjna refaktoryzacja i samonaprawa smart kontraktów z użyciem LLM i formalnej analizy =====
-MAS+LLM podejmuje trafniejsze i bardziej kontekstowe decyzje logistyczne, redukując liczbę przejazdów, konfliktów i opóźnień.+
  
-**Metryki:**   +Projekt dotyczy opracowania zaawansowanego systemu, który łączy narzędzia formalnej analizy bezpieczeństwa smart kontraktów (np. Slither, Mythril, Echidna) z dużymi modelami językowymi (LLM). Celem jest stworzenie mechanizmu umożliwiającego iteracyjną refaktoryzację i samonaprawę kodu Solidity – system analizuje kontrakt, wykrywa podatności, generuje poprawki przy użyciu LLM, a następnie ponownie ocenia ich skuteczność w kolejnych cyklach.
-  * efektywność tras (km/pojazd),   +
-  * zbieżność decyzji z rekomendacją eksperta,   +
-  * liczba działań wykonanych proaktywnie.+
  
-===== ▶ HealthGuard MAS – agentowy system e-zdrowia z interpretacją kontekstu przez LLM =====+Praca rozwiązuje realny problem bezpieczeństwa w ekosystemie blockchain: błędy takie jak reentrancy, overflow, niepoprawna obsługa uprawnień czy błędne konstrukcje logiczne prowadzą do strat finansowych, ataków i awarii. Automatyzacja ich naprawy może istotnie poprawić jakość i odporność smart kontraktów.
  
-**Opis projektu:**   +Zakres projektu obejmuje:
-Projekt polega na stworzeniu systemu monitorowania stanu pacjentów, w którym agenci odpowiadają za czujniki (tętno, saturacja, temperatura), pacjentów oraz jednostki reagujące.   +
-Wersja MAS klasyczna opiera się na progach alarmowych, podczas gdy wersja MAS+LLM interpretuje sytuację opisowo (np. „pacjent po ćwiczeniach rehabilitacyjnych”, „po podaniu leków występuje spodziewany wzrost tętna”).+
  
-**Zakres:**   +  * //analizę możliwości narzędzi do formalnej analizy i fuzz testów dla Solidity,//   
-  * symulacja danych biometrycznych i zdarzeń medycznych,   +  * //projekt interfejsu integrującego raporty tych narzędzi z LLM,//   
-  * wykrywanie anomalii i alarmów,   +  * //opracowanie strategii promptowania (np. single-shot, iterative prompting, chain-of-thought),//   
-  * interpretacja opisowa przez LLM (uzasadnienia, wyjaśnienia),   +  * //testowanie systemu na realnych i sztucznie przygotowanych kontraktach zawierających podatności,//   
-  * porównanie trafności decyzji i liczby fałszywych alarmów.+  * //klasyfikację i pomiar skuteczności napraw generowanych przez LLM,//   
 +  * //próbę automatycznego hardeningu kontraktów na podstawie wiedzy modelu.//
  
-**Hipoteza badawcza:**   +System powinien wspierać wiele cykli analizy – po każdej zaproponowanej poprawce kontrakt jest ponownie weryfikowany, a LLM otrzymuje informację zwrotną o wykrytych problemach. Umożliwia to stopniowe ulepszanie kodu oraz badanie, jak modele generatywne radzą sobie z eliminowaniem różnych klas podatności.
-MAS+LLM redukuje fałszywe alerty i generuje bardziej kontekstowe decyzje medyczne.+
  
-**Metryki:**   +Efektem końcowym jest prototyp systemu półautomatycznej samooptymalizacji i samonaprawy smart kontraktów, oceniony pod kątem trafności poprawek, redukcji podatności oraz ograniczeń tego podejścia. Projekt dostarcza także wniosków na temat przyszłości LLM w analizie i bezpieczeństwie kodu blockchain.
-  * FP rate (fałszywe alarmy),   +
-  * trafność decyzji (zgodność z ekspertem),   +
-  * czas reakcji,   +
-  * czytelność wyjaśnień (ocena 1–5).+
  
 ---- ----
ideas.1764614094.txt.gz · ostatnio zmienione: przez admin