Förslag till europeiska pilotprojekt: algoritmisk transparens och dataskuggor

Varje år startar EU-parlamentet ett antal pilotprojekt som testar innovativa idéer över två års tid. Patrick Breyer, tysk EU-parlamentariker för Piratpartiet, har föreslagit två projekt som nu ska granskas av EU-kommissionen. Projekten valdes ut bland en mängd förslag som kom in från nätanvändare och olika ideella organisationer.

“Mass computer decisions, such as upload filters, endanger our self-determined life just as much as constant observation and data retention. In the age of the digital revolution, it is important to maintain control of our lives. I would like to thank the net community very much for the many interesting project proposals and I will submit applications again next year.”

Patrick Breyer, tysk EU-parlamentariker för Piratpartiet

Första förslaget: transparent AI

Målet med projektförslaget är att göra beslut som tas av AI förståeliga för mottagarna, och att det ska vara möjligt att verifiera att besluten som tagits är korrekta. I dagens och än mer framtidens samhälle tas många beslut av AI, beslut som med dagens tekniker ofta är omöjliga att granska bakgrunden till.

Utöver problemen med transparens finns också problemet att AI, särskilt AI byggd på träning (så kallad maskininlärning), har fördomar och därmed diskriminerar vissa grupper av människor. AI som bygger på träning fångar upp diskriminering som finns i träningsdatan, vilket inte syns i själva besluten som tas idag.

”The research project aims to compile “best practices” for testing algorithmic decisions and to define standards that can be universally applied.”

Läs mer om problemområdet hos EFF.

Andra förslaget: dataskuggor

När vi använder internet lämnar vi spår efter oss. Dessa spår följs upp av flera olika företag, som bygger ihop dem till skuggprofiler av hur vi är som personer.

Det här projektet hade granskat faktiska datainsamlingspraktiker mot GDPR och rätten att få veta om vilken personlig information om en som samlas in. I hur hög grad spåras vi i verkligheten? Med vilka företag delas insamlad data? Får den spårade veta om övervakningen och är den laglig? Dessa är frågorna som det andra projektet försöker svara på.


Läs mer på Patrick Breyers blogg.