AI Profile
Interactieve AI-booth die eruitziet als een vriendelijke chatbot, maar ongemerkt een profiel van de bezoeker opbouwt en dat aan het einde laat zien en uitprint. Voor de opdracht GenAI Exposed van het Lectoraat Responsible IT (HvA).
Wat denkt AI dat jij bent?
Het Lectoraat Responsible IT van de HvA wil een breed publiek laten nadenken over wat AI uit een paar simpele vragen over je afleidt. De resultaten worden gebruikt in een (pre-)PhD-onderzoek naar provocatief ontwerpen voor AI-literacy. Ons concept is onderbouwd met onderzoek (Staab et al., ICLR 2024) en getoetst aan de AI Act en de AVG.
Een onschuldige chatbot, met een tweede taak op de achtergrond.
De bezoeker praat via spraak (push-to-talk, met tekst als fallback) met een AI-gezicht op een scherm. Los daarvan haalt een tweede AI-taak aannames uit het gesprek. Aan het einde ziet de bezoeker zijn profiel, met per punt of het uit het gesprek kwam of een gok is, en neemt hij het mee als uitdraai van een bonprinter. Samen met één teamgenoot breng ik de technische kant voor het team in kaart en ben ik verantwoordelijk voor de backend en de AI.
- 01
Lokaal en online gecombineerd
Een lokaal model via Ollama filtert eerst de persoonlijke data, zoals alles wat van de camera komt. Pas daarna gaat er iets naar de Claude API, zodat foto’s en gevoelige informatie de booth nooit verlaten.
- 02
Chat en profiel gescheiden
Het gesprek en het opbouwen van het profiel zijn twee aparte taken. Zo blijft de chatbot onschuldig voor de bezoeker, terwijl het profiel los daarvan wordt opgebouwd.
- 03
Ontwerpen binnen de AI Act
Biometrische categorisering op gevoelige kenmerken is sinds februari 2025 verboden (artikel 5 lid 1 onder g). Daarom wordt de camera-analyse in de eerste versie gefaked en komen gevoelige kenmerken nooit in het profiel. Gesprekken, beeld en stem worden niet opgeslagen.
Concept en architectuur staan, de code is in aanbouw.
Concept AI Profile uitgewerkt
Inclusief onderbouwing met onderzoek en de juridische randvoorwaarden uit de AI Act en de AVG.
Eerder concept onderzocht
De Bevestigingsweegschaal, over sycophancy, mee uitgewerkt en later bewust vervangen.
Backend-architectuur bepaald
FastAPI, een lokaal model via Ollama, de Claude API en spraakherkenning en -synthese op de booth zelf.
Eerste spraaktests
Speech-to-text en text-to-speech getest als basis voor de spraakpipeline.
Spraaksoftware is geen black box meer.
Een spraakpipeline opzetten
Hoe je speech-to-text en text-to-speech koppelt, van microfoon tot gesproken antwoord.
Onder de motorkap
Hoe deze spraaksoftware werkt, in plaats van het alleen als black box te gebruiken.