Programmeurs van algoritmes zijn de gatekeepers van ethiek

Helpt wat ik nu maak de mensheid vooruit? Dat is de belangrijkste vraag voor programmeurs van machine learning. Dat klinkt hoogdravend, maar het is de kern van ethiek. Niemand is eigenaar van de discussie, niemand legt vooralsnog vast wat wel en niet mag. Dus zijn het de programmeurs en designers die zelf verantwoordelijkheid moeten nemen.

Ethische vraagstukken beheersen ons vak steeds meer. Hoe meer mogelijkheden met zelflerende computers ontstaan, des te belangrijker de ethische component. En dat gaat een hele stap verder dan doen wat een klant verwacht. Het is onze taak om klanten te adviseren en uit te leggen wat door de beugel kan en wat niet. En als de klant over onze grens wil stappen: dan maar geen zaken doen.

Neem de Target-case. De Amerikaanse winkelketen stuurde in 2011 gepersonaliseerde reclame naar een man die met zijn tienerdochter in één huis woonde. Coupons voor babykleertjes en ledikanten kreeg hij aangeboden. De man toog briesend naar de winkel waar hem excuses werden aangeboden. Een week later kwam het hoge woord er bij zijn dochter uit: ze bleek inderdaad zwanger.

Moet je alles willen weten?

Dit voorbeeld toont de kracht van big data. Door allerlei gegevens aan elkaar te koppelen, en de machine zelf te laten leren, komen er uitkomsten die wij mensen misschien wel nooit hadden kunnen bedenken. Prachtig, daar kunnen we allerlei goeds mee, de mensheid vooruit helpen.

Juist die kracht is ook de reden dat wij er als makers met terughoudendheid mee moeten omgaan. Want de neiging bestaat om wat die big data en machine learning ons vertellen  voor waar aan te nemen. Maar alles valt of staat bij de input die zelflerende systemen als uitgangspunt nemen. En díe stoppen wij erin. En áls het systeem gelijk heeft, zoals in de Target-case, wat doen we er dan mee?

Discriminatie ligt op de loer

Programmeurs zoals ik moeten zich altijd afvragen: voor welke uitkomsten train ik mijn systeem? En welke data zou ik daarin moeten gebruiken? Als blijkt dat mensen uit Nijmegen gemiddeld een hogere opleiding hebben dan mensen uit Veendam, dan biedt zoeken op de plaatsnaam misschien een aardige indicatie, maar zeker geen goed selectiecriterium voor recruiters.

Zodra uit eenzelfde soort vergelijking op basis van big data komt dat mensen met een niet-Westerse afkomst minder geschikt zijn voor de één of andere functie, dan ligt discriminatie wel heel erg op de loer. Het is aan de makers van die systemen om na te denken welke criteria nuttig zijn om te gebruiken, en welke verantwoord. Én om daarover de discussie aan te gaan met klanten die om dergelijke systemen vragen. Een terugkerend advies zou altijd moeten zijn: wees transparant, laat je eindgebruiker weten op basis van welke factoren je werkt.

Programmeurs: schreeuw het van de daken

Bedrijven die zich storten op gepersonaliseerde marketing zijn op zoek naar data. Hoe meer, des te persoonlijker het koopadvies immers. Hoe begrijpelijk die wens ook is, de programmeurs en ontwikkelaars moeten zich altijd rekenschap geven van welke onbewuste beïnvloeding van consumenten zij bevorderen als ze ermee aan de slag gaan.

Algoritmes zijn niet heilig. Ze zijn er in mijn ogen niet om werk van mensen over te nemen. Nee. Ze moeten worden gebruikt om mensen terzijde te staan. Ze zijn er om mensen te helpen beslissingen te nemen, niet andersom. Niemand wil leven in een wereld waarin algoritmes constant besluiten nemen. Wij als programmeurs en ontwikkelaars hebben de taak dat van de daken te schreeuwen. Nadenken, afwegen en onze klanten coachen. Dat is ethisch.

En zou het niet goed zijn als wij daar zelf een ethisch framework van opstellen? Ik ben daar zelf groot voorstander van. Wij makers staan aan de basis en wij makers hebben grote invloed op wat er met big data gebeurt en hoe machine learning daar conclusies uit trekt. Daarom een uitnodiging aan iedereen: denk erover na, neem je verantwoordelijkheid en heb het erover.

AVG drukt reclame-omzetten 2017 amper

De invoering van de nieuwe privacywetten afgelopen voorjaar hebben hooguit een tijdelijk dempend effect op de online reclame-omzetten.

Dat blijkt althans uit de halfjaarcijfers over de Duitse markt, die afgelopen dagen tijdens Dmexco in Keulen werd gepubliceerd. De cijfers zijn afkomstig van Bundesverband Digitale Wirtschaft (BVDW), een grote digitale belangenvereniging.

Een belangrijke oorzaak voor de tijdelijk gedempte omzet is, dat bedrijven uit de online sector hun kapitaal anders moesten inzetten. Mensen waren minder bezig met handel en meer voorbereidingen op de nieuwe situatie. Dat geeft 43 procent van de ondervraagden aan.

Toen die tijdelijke ‘impasse’ voorbij was, trokken de omzetten weer aan. Enkel de maanden maart, april en mei presteerden minder:

Voor het hele jaar verwacht het BVDW een digitaal omzettotaal van 2,1 miljard euro. Dat is een plus van zeven procent ten opzichte van het jaar ervoor. De prognose lag op tien à elf procent. De Duitse online sector was duidelijk ook niet goed voorbereid op de consequenties van de invoering van de AVG.

Foto: Luca Sartoni (cc)

Android versie van Tor Browser beschikbaar

Van de Tor Browser, onder meer bedoeld voor het verkennen van de dark web, is voor het eerst een officiële mobiele versie voor Android verschenen.

Gebruikers vinden de een vroege versie van de privacyvriendelijke browser in de Play Store, maar kunnen desgewenst ook een .APK bestand installeren.

De browser van het Tor Project was er tot dusverre voor Mac, Windows en Linux, al waren wel onofficiële versies voor iOS of Android verkrijgbaar.

Mag ik vanaf de openbare weg mensen op een buurtfeest fotograferen?

camera-158471_960_720

Vroeger kon het gewoon, foto’s maken op de openbare weg. Pas bij publicatie moest je nadenken of je de privacy van de gefotografeerden niet schond. Maar met de nieuwe privacywet, de AVG, ligt dat anders, legt Arnoud Engelfriet uit.

Een lezer vroeg me:

Recent liep ik door de buurt en zag ik een buurtfeest met mooie sfeer. Weliswaar achter een afzetting maar op een straat met plein, dus openbare weg volgens mij. Ik maakte vanaf de straat aan de overkant foto’s, en werd toen aangesproken door twee deelnemers dat dat niet mocht, mede omdat er kinderen op de waterglijbaan speelden. Achteraf hoorde ik dat een heleboel ouders wel zelf foto’s van het feest (én de kinderen) op internet hadden gezet. Mag dit nu wel of niet, foto’s maken van zo’n situatie?

AVG

Vanaf de openbare weg mag je in principe fotograferen wat en wie je wilt. Dat was altijd het devies voor fotografen en andere nieuwsjagers. Pas bij publicatie moet je rekening houden met privacy, dat bepaalde het portretrecht.

Echter, de AVG heeft daar enige verandering in gebracht. Weliswaar kent die net als het portretrecht een belangenafweging (en dus géén absoluut verbodsrecht), maar de AVG geldt op iedere vorm van verwerking. En het máken van foto’s is al een verwerking, zodat je al op het moment van indrukken van de sluiter onder de wet valt. Sinds 25 mei kun je dus al bezwaar maken tegen het máken van een foto, niet pas tegen publicatie.

Privacy

In principe blijft voor mij overeind staan dat een gebeurtenis op de openbare weg weinig privacyverwachting heeft. Een hekje er omheen maakt daarbij niet uit. (Een afzetting met blindering of een rij zeecontainers natuurlijk wel.) Maar als je daar van afstand gaat fotograferen, dan zie ik wel hoe mensen daar toch enige moeite mee hebben. Die fotografie is dan geen deel van het feest, en breekt in op de privacyverwachting die men heeft.

En zeker bij foto’s van kinderen op een evenement dat alleen besloten toegankelijk is, is de privacywaarde erg hoog. De ouders verwachten een ontspannen sfeer waarin kinderen vrijelijk kunnen spelen. Bij dergelijke foto’s zie ik dan ook de belangenafweging onder de AVG echt uitvallen in het voordeel van de kinderen.

Ik ben er nog niet uit wie er moet winnen als er alleen volwassenen feest vieren, maar begrijp wel dat daar aanwezige mensen er boos over worden en de vraagsteller sommeren te stoppen.

Deze blogpost verscheen eerder op Ius mentis, het weblog waar Arnout Engelfriet schrijft over internetrecht.

The post Mag ik vanaf de openbare weg mensen op een buurtfeest fotograferen? appeared first on De Nieuwe Reporter.

Consumentenbond wil extra slot op de deur voor PSD2

Consumenten moeten bij de invoering van de nieuwe betaalrichtlijn PSD2 beter beschermd worden tegen het lichtvaardig delen van persoonlijke betaalgegevens met derden. De Consumentenbond pleit dan ook voor een ‘extra slot op de deur’.

Vandaag behandelt de Tweede Kamer de invoering van PSD2: een nieuwe Europese richtlijn voor betaaldiensten. Deze wet maakt het mogelijk dat naast de eigen bank ook andere partijen inzicht krijgen in betaalgegevens van consumenten. Weliswaar pas na uitdrukkelijke toestemming van de klant, maar de Consumentenbond maakt zich zorgen over hoe die toestemming tot stand komt.

Online hypotheek advies, beleggingsapps of een app die inzicht geeft in je uitgavenpatroon, de bond erkent dat het allemaal handige financiële diensten zijn. Maar die bedrijven hebben daarvoor wel inzicht nodig in de bankgegevens. En betaalgegevens zijn zeer privé en bijzondere persoonsgegevens.

Een acceptatieknop vergelijkbaar met een cookiebutton is volgens de Consumentenbond uit den boze; consumenten drukken dan op ‘ja’ om er vanaf te zijn. En consumenten moeten zich ook niet door ellenlange teksten heen hoeven te worstelen, want dat doet niemand’.

De Consumentbond pleit dan ook voor een tweetraps-toestemming: als een bedrijf bij de bank aanklopt met toestemming tot gebruik van klantgegevens, moet de bank daarop een dubbele check verrichten bij de consument om die toestemming te bevestigen.

De Consumentenbond vraagt de Kamer er bovendien streng op toe te zien dat bedrijven ‘kristalhelder’ zijn over welke gegevens ze gebruiken en waarvoor. Een ander punt waar de Consumentenbond de Kamer voor waarschuwt, is dat als consumenten een bedrijf inzicht geven in hun betalingsverkeer, dat bedrijf ook ziet aan wie wordt betaald en van wie betalingen worden ontvangen. En die consumenten hebben misschien géén toestemming gegeven voor inzage in hun betalingsverkeer.

Apple verscherpt privacybeleid voor apps

Apple stelt vanaf nu aan appontwikkelaars de voorwaarde dat iedere app een verwijzing naar een priacybeleid bevat, meestal in de vorm van een externe link. Eerder gold deze regel alleen voor apps die abonnementen aanbieden.

Ook als de app geen internetverbinding maakt, moet er toch een link worden aangebracht. Ontwikkelaars moet daar aangeven op welke wijze de app gegevens verzamelt. Als een ontwikkelaar een dienst van derde partij gebruikt, moet die ook aan het privacybeleid voldoen.

De voorwaarde geldt alleen voor nieuwe apps en updates van bestaande apps die vanaf 3 oktober ingediend worden. Apps die niet aan de voorwaarden voldoen worden verwijderd.

Het gevaar van kunstmatige intelligentie

Artificial intelligence (AI, kunstmatige intelligentie) wordt steeds breder toegepast, zowel zichtbaar (zelfrijdende auto’s) als onzichtbaar (prijsbepaling, fraude-detectie, beoordeling van mensen). Met name de nieuwe onzichtbare toepassingen zijn vaak problematisch: slecht werkende technologie wordt getest op echte mensen. Achtergrond kunstmatige intelligentie Het vakgebied kunstmatige intelligentie bestaat al meer dan 60 jaar. De Dartmouth-conferentie uit 1956 wordt […]

Is Intelligent Tracking Prevention (ITP) 2.0 vloek of zegen?

Zijn de privacy-instellingen van de nieuwe versie van Apple’s browser Safari die in september wordt verwacht een vloek of een zegen voor de online advertentie-industrie? De meningen zijn nog steeds verdeeld en zeker door deze 2.0 update lopen online de gemoederen soms hoog op. Een onnodige situatie.

User privacy lijnrecht tegenover belangen van de advertentie-industrie?

Publicaties als deze in Trouw, maar ook hier op Emerce dragen bij aan het beeld dat het belang van gebruikers van internetdiensten volkomen tegengesteld zou zijn aan het belang van de online advertentie-industrie. User privacy zou een obstakel zijn dat adverteerders, publishers en adtech-platformen maar al te graag zouden willen omzeilen om hun zakelijke belangen veilig te stellen.

Intelligent Tracking Prevention (ITP) is een poging om een technologische oplossing te creëren voor een privacy- issue: tracking van gebruikersgedrag buiten het blikveld van de gebruiker om. Zelfs als de gebruiker toestemming zou hebben gegeven voor tracking via een opt-in op privacy voorwaarden van betrokken trackingpartijen (compliancy), dan nog is het goed om het voor de gebruiker duidelijk te maken wanneer, hoe vaak en met welke scope tracking plaatsvindt (transparantie). Dat is goed voor het vertrouwen bij de gebruiker en daarmee ook in het belang van de verschillende spelers in de advertentie-industrie. User privacy en de belangen van de advertentie-industrie staan dus niet lijnrecht tegenover elkaar.

Slachtofferrol

Wie denkt dat de belangen van de advertentie-industrie per definitie lijnrecht tegenover user privacy staan, wordt in haar mening gesterkt door heftige reacties op initiatieven zoals ITP vanuit de online advertentie-industrie – zoals in deze reactie op een eerdere versie van ITP op de theguardian.com. Maar hier niet alleen, vanuit de hele wereld positioneren spelers uit de advertentie-industrie zich als slachtoffer. Gelukkig neemt IAB Techlab een genuanceerder standpunt in, maar dat kan ook niet anders. Vanuit IAB zijn er immers al diverse initiatieven gelanceerd die samenwerking en transparantie technisch mogelijk maken. Zo heeft IAB Techlab eerder richtlijnen gepubliceerd over hoe om te gaan met ITP (deze zijn overigens nog niet up-to-date voor ITP 2.0). En natuurlijk niet te vergeten het IAB Transparancy en Consent Framework en IAB DigiTrust.

Nederland maakt zich (terecht) minder druk

Zoals mijn mede-IAB-bestuurslid Tim Geenen ook al in het Trouw-artikel aangaf maken Nederlandse adverteerders en reclamebedrijven zich minder ongerust dan hun Amerikaanse collega’s. Dat heeft een bredere achtergrond dan het beperkte gebruik van ‘vingerafdruk’ technieken. De bredere achtergrond is terug te vinden in het standpunt van IAB Nederland rondom de ITP-discussie:

  • User privacy en de belangen van de advertentie-industrie staan niet lijnrecht tegenover elkaar.
  • Gebruikers hebben baat bij advertenties zolang deze advertenties relevant zijn. Gebruikers en spelers in de advertentie-industrie zijn beiden onderdeel van het internet-ecosysteem.
  • We streven naar een optimale balans tussen de belangen en behoeften van de verschillende spelers in het internet-ecosysteem. Er moet continu geïnvesteerd worden in het bewaren van deze balans. Daarin is het internet-ecosysteem niet anders dan andere ecosystemen waarin meerdere belangen met elkaar in evenwicht moeten worden gehouden.
  • Het benadrukken en beschermen van specifieke belangen is goed wanneer er een disbalans dreigt te ontstaan binnen het internet-ecosysteem. Zo is IAB Nederland van mening dat het respecteren van user privacy niet alleen in het belang van de gebruiker is, maar ook belangrijk is voor het waarborgen van een gezond en uitgebalanceerd internet-ecosysteem.
  • IAB Nederland gelooft in samenwerking en transparantie. Initiatieven die specifieke belangen benadrukken, moeten uiteindelijk samenkomen om de evenwichtigheid van het internet- ecosysteem te bewaren (samenwerking). Het is daarom goed dat partijen elkaar op de hoogte houden van initiatieven en beweegredenen (transparantie).
  • Vanuit deze filosofie zijn ITP en Web Tracking fenomenen die elkaar in evenwicht houden. Het internet-ecosysteem is niet gebaat bij onzichtbare en ontraceerbare Web Tracking. Evenmin is het internet-ecosysteem gebaat bij het blokkeren van technologie die het aanbieden van relevante advertenties mogelijk maakt. Wederom zijn samenwerking en transparantie de sleutelwoorden: het kenbaar maken van intenties en het bieden van keuzemogelijkheden.
  • Een ‘optimale balans’ is wat anders dan het ‘maximaliseren van een specifiek belang’. Vanuit een specifiek belang reageren op initiatieven die in principe goed zijn voor een evenwichtige balans levert meestal een onmogelijke discussie op. Het is belangrijk om het overzicht te bewaren en de samenwerking op te zoeken.
  • ITP 2.0 biedt gebruikers een keuzemogelijkheid aangaande het wel of niet instemmen met Web Tracking. Het is belangrijk dat gebruikers deze keuze goed geïnformeerd maken. Partijen die actief zijn op het gebied van Web Tracking kunnen hierin een belangrijke rol spelen. Dit biedt ook een kans het onterechte beeld van de vermeende ‘gepolariseerde belangen’ recht te zetten en transparantie te bieden aangaande Web Tracking.
  • Het bereik van ITP is verre van volledig, het is immers browser-specifiek. En dat biedt kansen en mogelijkheden. Zo ontstaat de mogelijkheid om de impact op effectief adverteren te onderzoeken door het vergelijken met groepen die gebruikmaken van andere browsers. En biedt het een kans om de discussie op basis van feiten in plaats van onderbuikgevoel te voeren.
Samenwerken en transparantie zijn de sleutel tot succes

Laten we ons als sector niet focussen op het negatieve, maar samen streven naar een optimaal evenwicht in het internet-ecosysteem. Laten we ons openstellen en samenwerken. Maar laten we vooral transparantie bieden, want juist dat hebben we zo hard nodig om het vertrouwen onderling te laten groeien. En dan heb ik het zowel over het onderlinge vertrouwen binnen de sector als over het vertrouwen tussen de sector en de consument. Ik wens u allen veel wijsheid.

Nieuwe studie waarschuwt voor passieve data Google

Google verzamelt veel meer data dan gebruikers vermoeden, zelfs als zij incognito surfen. Dat stelt een onderzoeker van Vanderbilt University.

In opdracht van handelsorganisatie Digital Content Next heeft de Amerikaanse universiteit gekeken naar alle Google producten als Android, Chrome, YouTube en Photos. Die laatste analyseert bijvoorbeeld alles dat op een foto is te zien, zelfs emoties op gezichten.

De onderzoekers maken zich vooral zorgen over passieve data die Google verzamelt via apps die niet van Google zijn. Zodra Google ergens advertenties toont, kan het ook gegevens verzamelen.

Zelfs als de gebruikers een private browsersessie starten om zich als het ware onzichtbaar te maken (de meeste browsers bieden deze mogelijkheid) worden nog steeds cookies gebruikt om gebruikers te identificeren. Google benadrukt dat in ingonitomodus gebruikers niet worden geassocieerd met diensten als Gmail.

Het rapport komt precies op het moment dat Google zich voor een Amerikaanse rechter moet verantwoorden voor het opslaan van locatiegegevens. Van gebruikers die de locatiegeschiedenis uitzetten, worden toch gegevens bijgehouden, onder meer ten behoeve van Google Maps.

Google is niet blij met het kritische rapport en zegt tegen AdAge dat de desbetreffende onderzoeker al eens als expert is ingeroepen bij een nog lopende rechtszaak van Oracle tegen Google. Het bedrijf spreekt van ‘misleidende conclusies’.

In Washington D.C. worden al enige tijd strengere privacyregels overwogen, zoals die in Europa al langer gelden (GDPR).

Google verzamelt bijna tien keer meer gebruikersdata dan Apple

Kortgeleden bleek dat Google altijd je locatie bijhoudt, ook als je dat niet wil. Het leidde al snel tot forse kritiek op Google. Nu blijkt uit een nieuw onderzoek dat Google ook via de webbrowser op je mobiele toestel behoorlijk wat data verzamelt – wel tien keer zoveel als Apple.

Het artikel Google verzamelt bijna tien keer meer gebruikersdata dan Apple verscheen voor het eerst op iCulture

Page generated in 1.729 seconds. Stats plugin by www.blog.ca