Willkommen auf myCSharp.de! Anmelden | kostenlos registrieren
 | Suche | FAQ

Hauptmenü
myCSharp.de
» Startseite
» Forum
» Suche
» Regeln
» Wie poste ich richtig?

Mitglieder
» Liste / Suche
» Wer ist online?

Ressourcen
» FAQ
» Artikel
» C#-Snippets
» Jobbörse
» Microsoft Docs

Team
» Kontakt
» Cookies
» Spenden
» Datenschutz
» Impressum

  • »
  • Community
  • |
  • Diskussionsforum
Amazon ermöglicht Live-Gesichtserkennung für ganze Städte
herbivore
myCSharp.de - Experte

Avatar #avatar-2627.gif


Dabei seit:
Beiträge: 52329
Herkunft: Berlin

beantworten | zitieren | melden

Hallo Abt,

soweit ich informiert bin, ist alles, was Palin inhaltlich geschrieben hat, so korrekt. Er macht sich immerhin die Mühe, seine Aussagen zu untermauern und zu belegen, wogegen du einfach nur behauptest, das wäre alles quatsch. Dass ihr zu unterschiedlichen Rechtsauffassungen kommt, liegt zwar nicht zwangsläufig daran, dass Palin recht hat und du falsch liegst, sondern auch daran, dass ihr von unterschiedlichen Szenarien ausgeht, nämlich einerseits Bilder, wo Menschen nur mehr oder weniger unkenntliches "Beiwerk" bei einer z.B. Architekturaufnahme sind und anderseits wo Menschen gewollt oder ungewollt klar zu erkennen sind, und ihr somit zumindest teilweise einfach aneinander vorbei redet.

Da Gesichtserkennung nur Sinn macht, wenn die einzelnen Personen ausreichend gut zu erkennen sind, selbst dann, wenn eine große Masse gleichzeitig aufgenommen sind, können die Aufgenommenen wohl kaum als Beiwerk betrachtet werden, sondern sind gerade Ziel und Zweck der Aufnahme. Insofern ist die Rechtsauffassung, dass Menschen als Beiwerk auch ohne Ihre Zustimmung aufgenommen werden dürfen, zwar richtig, es dürfte aber zumindest zweifelhaft sein, ob man sich darauf berufen kann, wenn man die Aufnahme gerade deshalb fertigt, um möglichst jeden einzelnen identifizieren zu können.

Und ja, natürlich macht es einen Unterschied, ob die Bilder gespeichert werden oder nicht. Und klar, durch Gesichtserkennung wird es - ob man dass nun begrüßt oder nicht - praktikabler, ohne gespeicherte Bilder auszukommen und stattdessen einfach nur das Ergebnis, nämlich Person A wurde von Kamera B um C Uhr erfasst rein textuell zu melden. Allerdings werden bei bestehenden Überwachungskameras oft genug die Bilder (unrechtmäßig) gespeichert. Jedenfalls so oft, dass man sich nicht einfach darauf zurückziehen kann, sie würden nicht gespeichert und deshalb würde KUG von vornherein nicht greifen.

Leider ist die Rechtslage, egal ob sie in die eine oder andere Richtung ausgelegt wird, praktisch gesehen oft kein wirksamer Schutz der Persönlichkeitsrechte, denn die allermeisten (privaten) Leute informieren sich nicht über die Rechtslage, sondern installieren Überwachungskameras einfach, wo und wie sie es für richtig halten. Und auch bei staatlichen Stellen läuft es leider mitunter nicht viel anders. Bzw. sind wir dann wieder an dem Punkt, dass die unterschiedlichen Blickwinkel von staatlichen Stellen und Bürgern, zu unterschiedlichen Rechtsauffassungen führen und die Stellen aus ihrem Blickwinkel heraus etwas als zulässig erachten, was es aber aus Bürgersicht und oft auch tatsächlich nicht ist. Auch für den Staat arbeiten nur Menschen, die irren können oder schlimmeres.

Ich würde auch vor der Vorstellung warnen, dass die Polizei immer auf der Seite der rechtschaffenen Bürger gegen die bösen Kriminellen steht. Denn wenn die Polizei zu einem Konflikt gerufen wird, stößt sie auf Menschen, denen man im Normalfall eben gerade nicht ansehen kann, wer rechtschaffener Bürger und wer Krimineller ist. Also verwenden die Beamten zur Kategorisierung, was sich nach den Umständen anbietet. In aller Regel ungeprüft die Behauptung dessen, der die Polizei gerufen hat. Und da kann man leicht mal in die falsche Kategorie einsortiert werden. Und dann kann man so unschuldig sein, wie man will, dass interessiert dann die Beamten überhaupt nicht. Man wird so behandelt, wie es der Kategorie entspricht, in die man innerhalb von Sekundenbruchteilen gesteckt wurde. Wenn man also von jemand anderem irrtümlich oder vorsätzlich falsch beschuldigt wird, ist es ganz schnell damit vorbei, dass die Polizei dein Freund und Helfer ist. Und wenn man dann noch weiß, wie oft Zeugen irren ...

herbivore
private Nachricht | Beiträge des Benutzers
LaTino
myCSharp.de - Experte

Avatar #avatar-4122.png


Dabei seit:
Beiträge: 3061
Herkunft: Thüringen

beantworten | zitieren | melden

Zitat von herbivore
Wenn man also von jemand anderem irrtümlich oder vorsätzlich falsch beschuldigt wird, ist es ganz schnell damit vorbei, dass die Polizei dein Freund und Helfer ist.

Ich will das jetzt nicht weiter diskutieren, aber um herbivores Aussage zu illustrieren...
Vor ~15 Jahren hat mir eine durchgeknallte Ex eins auswischen wollen, indem sie mich anonym bei der Polizei belastete. Das führte trotz jeglichen fehlenden Beweises zu einer Hausdurchsuchung morgens um 6 mit (angesichts der Vorwürde nachvollziehbar) _sehr_ unfreundlichen Beamten, einer Durchsuchung meiner damaligen Geschäftsräume inkl. Beschlagnahme der privaten und geschäftlichen IT. Es hat 15 Monate gebraucht, bis das letzte Stück Hardware wieder bei mir war. Es hat drei Jahre gebraucht, bis die Staatsanwaltschaft das Verfahren wegen erwiesener Unschuld einstellte. Mein Unternehmen rutschte um Haaresbreite an der Insolvenz vorbei. Meine Nachbarn von damals glauben bis heute, dass ich in illegale Machenschaften verstrickt war (denn natürlich kriegt das ganze Haus das mit, wenn eine Horde Beamter lautstark eine Wohnung durchwühlt), und mein Vertrauen in die Exekutive ist für alle Zeiten dahin. "Wer nichts getan hat, hat nichts zu befürchten" my ass. Genausogut kann man an den Weihnachtsmann glauben. Man ist in jeder Gesellschaft, auch in dieser, schneller im Visier des Staats, als einem lieb sein kann.
"Furlow, is it always about money?"
"Is there anything else? I mean, how much sex can you have?"
"Don't know. I haven't maxed out yet."
(Furlow & Crichton, Farscape)
private Nachricht | Beiträge des Benutzers
Stefan.Haegele
myCSharp.de - Member

Avatar #avatar-3068.jpg


Dabei seit:
Beiträge: 435
Herkunft: Untermeitingen

beantworten | zitieren | melden

Zitat von LaTino

Ich will das jetzt nicht weiter diskutieren, aber um herbivores Aussage zu illustrieren...
Vor ~15 Jahren hat mir eine durchgeknallte Ex eins auswischen wollen, indem sie mich anonym bei der Polizei belastete. ...

"Wer nichts getan hat, hat nichts zu befürchten" my ass. Genausogut kann man an den Weihnachtsmann glauben. Man ist in jeder Gesellschaft, auch in dieser, schneller im Visier des Staats, als einem lieb sein kann.

Sorry, aber du bringst hier ganz gewaltig mehrere Punkte durcheinander - Der Staat hat sich hier so verhalten wie man es von ihm erwartet - er nimmt jede Anzeige ernst. Denn jeder Beschuldigte sagt von sich er sei unschuldig. Und die Untersuchungen des Staates haben ja *deine* Unschuld bewiesen. Dass gerade Frauen hier mit falschen Verdächtigungen/Anzeigen Schindluder treiben ist sehr bedauerlich - aber dies ist nicht das Problem des Staates. Oder sagen wir mal so, wenn jeder, welcher einem eine Straftat fälschlicherweise vorwirtft mit der Höchststrafe dieser Straftat bestraft werden würde. würden sich dies bestimmt viele auch überlegen...
Dieser Beitrag wurde 4 mal editiert, zum letzten Mal von Stefan.Haegele am .
private Nachricht | Beiträge des Benutzers
LaTino
myCSharp.de - Experte

Avatar #avatar-4122.png


Dabei seit:
Beiträge: 3061
Herkunft: Thüringen

beantworten | zitieren | melden

Diese Art Nebelgranate ist der Grund, wieso ich das nicht diskutieren wollte.

Nein, ich werfe nichts durcheinander, danke der Unterstellung.

Ich habe lediglich illustriert, wieso man, wann immer man Daten sammelt, davon ausgehen muss, dass sie zum Schaden eines Unschuldigen verwendet werden können. Denn das unterschlagt ihr komplett, weil ihr davon ausgeht, dass

a) der Staat versucht, keine Fehler zu machen
b) Fehler, wenn sie vorkommen, folgenlos gehalten werden
c) die ausführenden Organe makellos sind

Das sind alles Annahmen fern der Realität. Erinnert sich jemand den Polizeibeamten, der aus Neugier die Führungszeugnisse seiner Nachbarn untersucht hat? An den Steuerbeamten, der aus demselben Grund Bankabfragen zu Bekannten veranstaltet hat? Wo ein Trog ist, dort sammeln sich Schweine. Wo Daten gesammelt werden, werden sie missbraucht. Und solche Missbräuche sind in einigen Fällen nicht folgenlos und in einigen Fällen auch nicht wieder gut zu machen. Wer das Sammeln von Daten befürwortet, nimmt das in Kauf. Und das ist ein valider Standpunkt (!), aber man kann sich nicht hinstellen und sagen "wenn man nichts getan hat, passiert einem auch nichts", denn angesichts der Faktenlage ist das einfach eine bewusste Lüge. Ehrlich wäre zu sagen: "ich weiß nicht, ob's was bringt. Probieren wir es einfach aus, und wenn ein paar Unschuldige in die Mühlen der Justiz geraten, dann ist das zum Glück nicht mein Problem". Klingt nur nicht so schön, nicht?

Und es ist schön, dass der Staat zugab, dass ich unschuldig war. Auf dem materiellen, ideellen und gesundheitlichem Schaden bleibt man aber trotzdem sitzen, oder dachtest du, das wird erstattet? Falls ja, habe ich Neuigkeiten für dich.

LaTino
"Furlow, is it always about money?"
"Is there anything else? I mean, how much sex can you have?"
"Don't know. I haven't maxed out yet."
(Furlow & Crichton, Farscape)
private Nachricht | Beiträge des Benutzers
Stefan.Haegele
myCSharp.de - Member

Avatar #avatar-3068.jpg


Dabei seit:
Beiträge: 435
Herkunft: Untermeitingen

beantworten | zitieren | melden

Zitat von LaTino
Und es ist schön, dass der Staat zugab, dass ich unschuldig war. Auf dem materiellen, ideellen und gesundheitlichem Schaden bleibt man aber trotzdem sitzen, oder dachtest du, das wird erstattet? Falls ja, habe ich Neuigkeiten für dich.

Nochmals - bedanke dich bei deiner (Ex) Frau - der Staat hat gehandelt wie man es erwartet. Es gab eine Anzeige und der Staat hat die Ermittlungen aufgenommen. Basta! Du bist nicht unschuldig in Verdacht gekommen du wurdest unschuldig verdächtigt. Und das ist ein großer Unterschied, welcher u.U. mit Kameraüberwachung sogar viel schnller hätte bewiesen werden können....
private Nachricht | Beiträge des Benutzers
herbivore
myCSharp.de - Experte

Avatar #avatar-2627.gif


Dabei seit:
Beiträge: 52329
Herkunft: Berlin

beantworten | zitieren | melden

Hallo Stefan.Haegele, hallo zusammen,
Zitat
Du bist nicht unschuldig in Verdacht gekommen du wurdest unschuldig verdächtigt.
ja, in Bezug auf LaTino stimmt das. Du wirst aber vermutlich nicht bestreiten, dass es möglich ist, ohne (vorsätzlich) unschuldig verdächtigt zu werden, trotzdem (versehentlich) in Verdacht zu kommen. Gibt ja sogar prominente Bespiele dafür. Und was LaTino und andere und ich sagen, ist, dass die Wahrscheinlichkeit dafür mit der Menge der Daten (und der Intensität ihrer Auswertung) steigt. Und LaTinos Beispiel und andere Beispiele zeigen, dass so ein Verdacht existenzbedrohend und lebenszerstörend sein kann.

Das Problem - erläutert anhand der beliebten Angst vor Terror - dabei ist doch folgendes: Es gibt einfach verdammt wenig Terroristen unter der riesigen Bevölkerung. Nehmen wir an, man könnte - auch wenn das wohl unrealistisch hoch gegriffen ist - mit 99%iger Wahrscheinlichkeit sagen, ob jemand Terrorist ist.

Das bedeutet, dass wenn man 100 Terroristen untersucht (so viele, die tatsächlich Anschläge begehen, gibt es zwar gar nicht, aber egal), würde der Test bei 99 von ihnen korrekterweise feststellen, das sie Terroristen sind und nur ein Terrorist würde fälschlich als unschuldig erkannt. Im Idealfall 99 Terroranschläge verhindert, super! Nehmen wir (ebenfalls unrealistisch hoch geschätzt) an, ein Terroanschlag hätte im Schnitt 100 Opfer. Also 9900 Leute von Schaden bewahrt. Klingt nicht schlecht.

Nun andersherum: Immer noch 99% Sicherheit. Auf 100 getestete unschuldige Bürger wird einer fälschlich als Terrorist erkannt. Macht bei (aufgerundet) 100 Mio Deutschen also 1 Million Bürger, die unschuldig in Verdacht geraten. Um also 9900 Leute vor nicht unerheblichem Schaden zu bewahren, wird einer Million Leuten nicht unerheblicher Schaden zugefügt.

Aufgrund des Zahlenverhältnisses zwischen vielen, vielen Unschuldigen und sehr, sehr wenigen Terroristen, geraten - selbst bei sehr geringer Fehlerquote - absolut gesehen viel, viel mehr Leute fälschlich unschuldig in Verdacht, als dass echte Terroristen fälschlich unerkannt bleiben.

Die konkreten genannten Zahlen sind zwar aufgrund der absichtlich drastischen Annahmen unrealistisch hoch (9900 Terrortote gab es in ganz Westeuropa in den vergangenen Jahrzehnten zusammengerechnet nicht und für 1 Mio Hausdurchsuchungen hat die Polizei gar nicht die Kapazitäten), aber klar sollte sein, dass immer viel mehr Leute unschuldig in Verdacht geraten, als tatsächlich Schuldige nicht erkannt werden. Je mehr technische Möglichkeiten es gibt, ob nun die hier im Fokus stehende Videoüberwachung/Gesichtserkennung oder andere, durch die man unschuldig in Verdacht kommen kann, desto mehr steigt die Gefahr dafür.

Spätestens, wenn die Gefahr, dass dein Leben durch fälschlichen Terrorverdacht zerstört wird, größer wird, als dass dein Leben durch einen Terroranschlag zerstört wird, macht das Ganze keinen rechten Sinn mehr.

herbivore

PS: Nur um Missverständnissen vorzubeugen: Ich sage damit nicht, dass man den Terror nicht mehr bekämpfen sollte und schon gar nicht rechtfertige ich damit Terroranschläge. Ich sage nicht mehr und nicht weniger, als dass die Verhältnismäßigkeit - zu der der Staat verpflichtet ist - bei allen Maßnahmen gewährleistet sein muss.
private Nachricht | Beiträge des Benutzers
Palin
myCSharp.de - Member



Dabei seit:
Beiträge: 1115

Themenstarter:

beantworten | zitieren | melden

Ich denke mal, das past zu dem Thema.

Spiegel:Digitalisierung in China

Ganz besonders den Abschnitt finde ich sehr erschreckend.
Zitat
Ein im Westen oft besprochenes Angstbild ist der chinesische "Social Credit Score", ein digitales System zur Bewertung des Verhaltens. Es soll von 2020 an für alle Bürger gelten. Dabei wird jede digital erfassbare Verhaltensweise - Einkäufe, Reisen, Äußerungen in sozialen Medien und vieles mehr - ausgewertet. Das Ergebnis ist ein Punktestand, der nach den bisherigen Testläufen wirklich das gesamte Leben beeinflussen könnte: die Nutzung von Bahn, Flugzeugen und Autobahnen, die Jobchancen, sogar die Auswahl möglicher Kontakte in den Partnerbörsen.

Die chinesischen Planungen einer vollständigen Videoüberwachung mit umfassender Gesichtserkennung und Verhaltensanalyse per Künstlicher Intelligenz müssen dabei mitgedacht werden. Zweifellos ist das ein dystopischer Überwachungshorror, aber die Schlagworte verdecken die Dimension, die auch für westliche Demokratien relevant sind. Wir tun so, als sei der "Social Credit Score" ein chinesisches Problem - in Wahrheit ist es ein digitales. Und damit auch unseres.

Also ich finde soweit sollten wir es in Deutschland nicht kommen lassen.
Sollte man mal gelesen haben:

Clean Code Developer
Entwurfsmuster
Anti-Pattern
private Nachricht | Beiträge des Benutzers
bredator
myCSharp.de - Member



Dabei seit:
Beiträge: 368

beantworten | zitieren | melden

Dazu gab es eine Folge von "The Orville", ich glaube, es war die 7. oder 8. der ersten Staffel. Einerseits wird das Ganze natürlich etwas humorig aufgearbeitet, aber dennoch auch mit dem notwendigen Ernst. Sehr sehenswert...
private Nachricht | Beiträge des Benutzers
Abt
myCSharp.de - Team

Avatar #avatar-4119.png


Dabei seit:
Beiträge: 15618
Herkunft: BW

beantworten | zitieren | melden

Microsoft: Reguliert Gesichtserkennung!
private Nachricht | Beiträge des Benutzers
MrSparkle
myCSharp.de - Team

Avatar #avatar-2159.gif


Dabei seit:
Beiträge: 5961
Herkunft: Leipzig

beantworten | zitieren | melden

Bei Golem heißt es: Minority Report soll für Microsoft nicht real werden

Ich lese allerdings genau das Gegenteil, wenn dort steht:
Zitat
Microsoft betont, dass der Einsatz von nicht ausgereifter Gesichtserkennung, die beispielsweise bei Frauen und dunkelhäutigen Personen sehr ungenau arbeiten, nicht zielführend sei. Das Unternehmen arbeite daran, das zu verbessern.
Weeks of programming can save you hours of planning
private Nachricht | Beiträge des Benutzers
Palin
myCSharp.de - Member



Dabei seit:
Beiträge: 1115

Themenstarter:

beantworten | zitieren | melden

Ich persönlich halte die Erforschung und weiter Entwicklung, nicht grundlegend für falsch. Sondern eher für sinnvoll. Die Frage ist nur, was wir daraus machen.

Ich denke Geschichtlich gesehen ist Einstein mit seiner Formel E=mc^2 ein gutes Beispiel.
Wissenschaftlich gesehen war die spezielle und später die allgemeine Relativitätstheorie, ein immenser Durchbruch.

Was daraus resultierte war Katastrophal. Auch wenn Einstein als Pazifist, lange gegen den Bau einer Atombombe gewesen ist. Hat er auf Grund von Fehlinformationen (die Nazis stehen kurz davor) Roosevelt dazu geraten, eine Atombombe zu bauen. Was er später bitterlich bereut hat.

Ich finde das Oppenheimer Zitat passt ganz gut dazu:“Ich bin der Tod geworden, der Zerstörer von Welten“.


E=mc^2 war an dem Punkt nicht das Problem. Sondern was wir Menschen daraus gemacht haben.



Software die möglichst Sachen (Gegenstände, Gesichter usw.) erkennt ist auch kein Problem (ein sinnvoller Einsatz, sind z.B. Autonome Fahrzeuge).

Die Frage ist nur wie wir sie Einsätzen.
Sollte man mal gelesen haben:

Clean Code Developer
Entwurfsmuster
Anti-Pattern
private Nachricht | Beiträge des Benutzers
emuuu
myCSharp.de - Member

Avatar #avatar-4078.jpg


Dabei seit:
Beiträge: 286

beantworten | zitieren | melden

Die Bahn geht da aktuell einen recht interessanten Ansatz:
Nach dem Ende des Feldversuchs in puncto Gesichtserkennung sollen die Kameras weiterverwendet werden und das System darauf konditioniert werden "Situationen" zu erkennen und diese dann zu melden.
Einerseits ist Gesichtserkennung ohnehin ein rein fahnderisches Instrument, da man ja bereits wissen muss nach wem man sucht. Andererseits das große Missbrauchspotential das damit einhergeht.

Situationen erkennen hat hier imho den deutlichen Vorteil, dass es z.T. sogar präventiv, immerhin aber sehr zeitnah eingesetzt werden kann. Desweiteren ist sind die Missbrauchsmöglichkeiten sehr viel geringer, da keine Identifikation einzelner Personen stattfinden muss.
2+2=5 (für extrem große Werte von 2)
private Nachricht | Beiträge des Benutzers
herbivore
myCSharp.de - Experte

Avatar #avatar-2627.gif


Dabei seit:
Beiträge: 52329
Herkunft: Berlin

beantworten | zitieren | melden

Hallo Palin, hallo zusammen,

drastischer, aber im Kern trotzdem guter Vergleich. Und die Fehlinformationen sind gerade aktuell der springende Punkt. Wenn die Leute sich - wie ich finde - schon in sehr stark irrationaler Weise vor Terror, Migration und Verbrechen fürchten, fallen die (politischen/gesellschaftlichen) Entscheidungen natürlich anders, als wenn alle ein entspannteres und - wie ich denke - damit rationaleres Bild der Wirklichkeit hätten. Leider sehe ich keinen Weg, wie man die Massen dahin bekommt. Solche Rechnungen wie oben, erreichen die Gefühlsgesteuerten erst gar nicht. In solchen Bereichen bekleckert sich der Mensch als Krone der Schöpfung nicht gerade mit Ruhm, sondern reagiert leider auf Stammhirn-Level (das meine ich beschreibend, nicht beleidigend).


Hallo emuuu, hallo zusammen,
Zitat
darauf konditioniert werden "Situationen" zu erkennen [Hervorhebungen von mir]
trotz der beschrieben Vorteile finde ich das auf eine gewisse Weise noch schlimmer. Weil das meiner Meinung nach ein bestimmtes (staatliches) Bild von Normalität voraussetzt, von der dann (bestimmte oder alle) Abweichungen gemeldet werden. Insofern besteht die Gefahr, dass in der Folge Menschen darauf konditioniert werden, sich (im stattlich definierten Sinne) normal zu verhalten. Dabei liegt gerade in den nicht Normalen, den Außenseitern, den unangepassten, den Ungewöhnlichen oder Außergewöhnlichen, der Avantgarde eine große Chance zum Vorankommen der Gesellschaft als Ganzes. Einstein ist da bei weitem nicht das einzige Beispiel. Das wird leider gerne übersehen.

Natürlich denke ich nicht, dass die Bahn im geschilderten Sinne Gedankenkontrolle oder Konformitätsdruck plant. Aber in China wird das ja mit dem Social Scoring und eben auch der Gesichtserkennung ganz bewusst vorangetrieben. Und so weit ich weiß, ohne nennenswerten Widerstand in der Bevölkerung. Viele finden das wohl sogar gut. Kopfschüttel! Und das trotz erheblicher diskriminierender Nachteile für die Unangepassten, wie z.B. Einschränkungen der Onlinebestellung oder der Nutzung von Verkehrsmitteln.

Vielleicht liegt es in der Natur des Menschen, dem Unangepassten und Fremden mit Ablehnung zu begegnen. Aber gerade deshalb halte ich die Menschenrechte wie Gleichheit/Diskriminierungsverbot und Asylrecht für große humane und soziale Errungenschaften, die - wie man aktuell leider immer wieder sieht - gerne mal beiseite geschoben wird, gerade wenn es um Minderheiten geht.

Klar, letztlich ist es immer eine Frage der Ausgestaltung, ob spürbare Nachteile entstehen. Aber gerade deshalb ist es so wichtig, dass jeder InformatikX und jeder TechnikgestaltX sich nicht nur ernsthafte Gedanken über die möglichen Folgen seiner Entwicklung macht, sondern auch die Konsequenzen zieht und das Design und Programmierung so gestaltet, dass Nachteile und Missbrauch möglichst inhärent ausgeschlossen werden.

herbivore
private Nachricht | Beiträge des Benutzers
Abt
myCSharp.de - Team

Avatar #avatar-4119.png


Dabei seit:
Beiträge: 15618
Herkunft: BW

beantworten | zitieren | melden

Zitat von MrSparkle
Ich lese allerdings genau das Gegenteil, wenn dort steht:
Zitat
Microsoft betont, dass der Einsatz von nicht ausgereifter Gesichtserkennung, die beispielsweise bei Frauen und dunkelhäutigen Personen sehr ungenau arbeiten, nicht zielführend sei. Das Unternehmen arbeite daran, das zu verbessern.

Bitte richtig lesen. Es geht nicht um die Unterscheidung der Eigenschaften.
Das Problem ist, dass die Systeme aktuell das Problem haben zB Frauen mit entsprechend hoher Wahrscheinlichkeit als Entität "Mensch" erkennen.
private Nachricht | Beiträge des Benutzers
MrSparkle
myCSharp.de - Team

Avatar #avatar-2159.gif


Dabei seit:
Beiträge: 5961
Herkunft: Leipzig

beantworten | zitieren | melden

Das steht dort nicht. Es steht dort, daß Microsoft "Minority Report" nicht mit den bisherigen Systemen umsetzen will, weil die bei der Gesichtserkennung zu viele Fehler machen. Und daß Microsoft das Problem beheben will.
Weeks of programming can save you hours of planning
private Nachricht | Beiträge des Benutzers
herbivore
myCSharp.de - Experte

Avatar #avatar-2627.gif


Dabei seit:
Beiträge: 52329
Herkunft: Berlin

beantworten | zitieren | melden

Hallo MrSparkle,

naja, Microsoft setzt sich aber schon grundsätzlich für eine Regulierung ein, die Nachteile für die Gesellschaft verhindern soll. Und nicht für Übergangsregelung, bis die Systeme gut genug sind.

herbivore
private Nachricht | Beiträge des Benutzers
MarsStein
myCSharp.de - Experte

Avatar #avatar-3191.gif


Dabei seit:
Beiträge: 3429
Herkunft: Trier -> München

beantworten | zitieren | melden

Hallo,
Zitat
Microsoft betont, dass der Einsatz von nicht ausgereifter Gesichtserkennung, die beispielsweise bei Frauen und dunkelhäutigen Personen sehr ungenau arbeiten, nicht zielführend sei. Das Unternehmen arbeite daran, das zu verbessern.
Diese Passage steht ja nun n einem ganz anderen Kontext, als die Hinweise auf die Gefahren der Gesichtserkennung.
Ich interpretiere das so:
- Zunächst mal wird auf die Gefahren und die Notwendigkeit einer Regulierung ingewisen.
- Im Anschluss wird nachgeschoben, dass ferhleranfällige/ungenaue Algorithmen ohnehin nicht zielführend sind, selbst mit einer entsprechenden Regulierung. Und genau das soll verbessert werden. Die Notwendigkeit einer sinnvollen Reguilierung wird dabei aber nicht angezweifelt.

Gruß, MarsStein
Non quia difficilia sunt, non audemus, sed quia non audemus, difficilia sunt! - Seneca
private Nachricht | Beiträge des Benutzers
C4RL0
myCSharp.de - Member

Avatar #avatar-3444.png


Dabei seit:
Beiträge: 82
Herkunft: Osnabrück

beantworten | zitieren | melden

Zitat von emuuu
Die Bahn geht da aktuell einen recht interessanten Ansatz:
Nach dem Ende des Feldversuchs in puncto Gesichtserkennung sollen die Kameras weiterverwendet werden und das System darauf konditioniert werden "Situationen" zu erkennen und diese dann zu melden.

Schaut Euch mal das Projekt INDECT an. Google wird die passenden Treffer ausspucken. Dieses Projekt fand kaum in den Medien statt.
Dieser Beitrag wurde 1 mal editiert, zum letzten Mal von C4RL0 am .
_____________________
Gruß
Carlo

"Palabras que no coinciden con hechos no valen nada."
private Nachricht | Beiträge des Benutzers
Palin
myCSharp.de - Member



Dabei seit:
Beiträge: 1115

Themenstarter:

beantworten | zitieren | melden

Na die letzte aktivität auf der Homepage von INDECT war 2014, ich hoffe mal das Projekt ist mittlerweile eingestellt.

Was da bei (WIKI)INDECT als "Abnormales Verhalten" eingestuft wird. Ist echt schnell erreicht z.B. " „zu langes“ Sitzen auf Flughäfen". Da verpasst man mal seinen Flieger und muss auf dem nächsten warten und schon wird automatisch von dem System in die 24h Dauerüberwachung geworfen.
Sollte man mal gelesen haben:

Clean Code Developer
Entwurfsmuster
Anti-Pattern
private Nachricht | Beiträge des Benutzers
Abt
myCSharp.de - Team

Avatar #avatar-4119.png


Dabei seit:
Beiträge: 15618
Herkunft: BW

beantworten | zitieren | melden

Das ist also ein hochentwickeltes System, das "abnormales Verhalten" erkennt (hier als Beispiel langes Sitzen) und es soll dann die Information "Flug verpasst" nicht haben, um das verknüpfen zu können?

Das ist das Problem, das ich hier immer wieder empfinde.
Man wirft diesen Systemen, die offensichtlich so extrem weit sind, immer irgendwelche Pauschalitäten vor, nur weil der Gedankengang an einem sehr(!) einfachen Konstrukt sehr schnell zu Ende ist.

Diese als "abnormale Verhalten" definierten Dinge sind doch in erster Linie mal Trigger, wie zB. ein Schedulung auf einen Timestamp.
Wenn das solche Raketentechniken sind, werden die Workflows nicht beim nächsten IF enden.
private Nachricht | Beiträge des Benutzers
herbivore
myCSharp.de - Experte

Avatar #avatar-2627.gif


Dabei seit:
Beiträge: 52329
Herkunft: Berlin

beantworten | zitieren | melden

Hallo Abt, hallo zusammen,
Zitat
... und es soll dann die Information "Flug verpasst" nicht haben ...
dadurch wird es ja nur noch gruseliger! Das System weiß dann nicht nur, was ich mache, sondern auch warum. Je mehr ein solches System über mich weiß, desto unakzeptabler wird es, wenn es mein Verhalten überwacht. Erst recht, wenn es Konsequenzen auf "unangepasstes" Verhalten gibt.

Für mich ist das alles mit dem Recht auf Privatsphäre nicht vereinbar. Und wie ich schon oben schrieb, wünsche ich mir eher eine Entwicklung in die andere Richtung, also eine Ausdehnung auf ein Recht auf Privatsphäre im öffentlichen Raum.

Für mich ist also nicht die Frage, wie man ein solches System noch "besser" machen kann, sondern wie man Systeme in solcher Form - z.B. durch entsprechende Regulierungen - wirksam verhindert.

Es gibt sicher sinnvolle Einsatzgebiete für Gesichtserkennung, aber nicht zur (direkten oder indirekten) Massenüberwachung der Bevölkerung. Und aus meiner Sicht ist es schon dann eine Massenüberwachung der Bevölkerung, wenn Straftäter gesucht werden, weil dann trotzdem die Gesichter aller gescannt und überprüft werden müssen. Und natürlich auch für unbescholtene die Gefahr von "false positives" besteht. Bei verhaltensbasierten System ist es noch klarerer, dass die Überwachung die gesamte Bevölkerung betrifft, denn es ist ja vorher gerade nicht klar, wer (möglicherweise vollkommen ungewollt) "abnormales" Verhalten zeigt.(**)

Ich frage mich, was passieren würde, wenn jemand vorschlagen würde, ein System zu realisieren, dass die Geschwindigkeit jedes Autos zu jeder Zeit überwacht und bei jeder Überschreitung des erlaubten Rahmens automatisch Knöllchen, Bußgelder und Punkte verteilt.(*) Da kann man auch sagen, das rettet sehr viele Leben. Vermutlich deutlich mehr als irgendwelche Terrorabwehrsysteme. Aber bei der allgemeinen Negativhaltung gegen jetzige Blitzer ("Wegelagerer" und "Abzocker") kann ich mir nicht vorstellen, dass eine solche Maßnahme besonders beliebt wäre (um es gelinde auszudrücken).

Aber ein solches System wäre relativ schnell die konsequente Forderung, wenn man in anderen Bereichen mit Verhaltensüberwachung beginnt. Gerade weil damit mehr Menschenleben gerettet werden könnten als durch ein Terrorabwehrsystem.

Also wollte ihr wirklich in irgendeinem Bereich mit automatischer Verhaltensüberwachung beginnen? Wenn das früher oder später die unausweichliche Folge ist? Das öffnet aus meiner Sicht die Büchse der Pandora.

herbivore

(*) Und deiner Argumentation nach wäre das System sogar so schlau, dass es wüsste, wenn eine Überschreitung z.B. in Notfällen gerechtfertigt war.

(**) Man beachte auch die Wortwahl, siehe allgemein Framing (Kommunikationswissenschaft) und speziell Framing – Die Macht der Sprache. Man könnte es auch "unerwünscht" oder "unangemessen" nennen, aber dann wüsste ja jeder, dass er potenziell betroffen ist, denn wer hat noch nie etwas "unangemessenes" getan (rhetorische Frage). Aber "abnormal" das ist man natürlich nie selbst, dass sind immer nur andere, also gestörte oder unangenehme Zeitgenossen, die es auch verdient haben, wenn sie Konsequenzen zu spüren bekommen.
private Nachricht | Beiträge des Benutzers
emuuu
myCSharp.de - Member

Avatar #avatar-4078.jpg


Dabei seit:
Beiträge: 286

beantworten | zitieren | melden

Zitat von herbivore
Das System weiß dann nicht nur, was ich mache, sondern auch warum. Je mehr ein solches System über mich weiß, desto unakzeptabler wird es, wenn es mein Verhalten überwacht. Erst recht, wenn es Konsequenzen auf "unangepasstes" Verhalten gibt.

Das ist dann eher eine rein politische denn technische Frage, dass man dem Ganzen die entsprechenden Grenzen aufsetzt.

Nehmen wir das Beispiel, dass die Bahn in meinem Link als eine Situation erkennen will: "Person befindet sich auf den Gleisen".
Dies kann das System erkennen, ohne das irgendwelche Persönlichkeitsrechte konkret verletzt werden (gesetzt die Annahme, dass die Videodaten für Menschen unzugänglich nur zur aktuellen Auswertung zwischengespeichert werden), da das System dann nur meldet irgendjemand ist im Gleis und nicht Peter Mustermann geb. 1987 wohnhaft xyz befindet sich gerade im Gleis.

Technisch dürfte eine Situationsüberwachung eigentlich eine vergleichsweise geringe Hürde sein: Nimm eine KI und lern sie mit ein paar tausend Stunden Überwachungsmaterial an. Und schon erkennt sie abnormale Situationen. Insbesondere deinen Einwand bezüglich einer gesteuerten Konditionierung was recht ist und was nicht, sehe ich hier nicht. Da in dem Szenario das aktuelle gesellschaftlich anerkannte und geltendem Recht entsprechende IST als normal gilt (also eben so wie sich jetzt ohnehin 99% der Menschen verhalten) und nur Abweichungen davon zu einem Ausschlag im System führen.
Das Szenario halte ich allein deswegen schon für wahrscheinlicher, weil es viel leichter ist einer KI beizubringen "so ist normal und nun melde immer wenn etwas abnormales passiert" als "erkenne wenn XYZ passiert und dann melde dich". Und letzteres bräuchtest du um eine gesteuerte Konditionierung zu betreiben.
2+2=5 (für extrem große Werte von 2)
private Nachricht | Beiträge des Benutzers
p!lle
myCSharp.de - Member

Avatar #avatar-3556.jpg


Dabei seit:
Beiträge: 1053

beantworten | zitieren | melden

Zitat von emuuu
Da in dem Szenario das aktuelle gesellschaftlich anerkannte und geltendem Recht entsprechende IST als normal gilt

Sowas kann sich ändern und genau das ist das Problem.
private Nachricht | Beiträge des Benutzers
herbivore
myCSharp.de - Experte

Avatar #avatar-2627.gif


Dabei seit:
Beiträge: 52329
Herkunft: Berlin

beantworten | zitieren | melden

Hallo emuuu,
Zitat
"Person befindet sich auf den Gleisen".
das wäre ja nun gerade keine Verhaltenserkennung, weil man nicht erkennt, was für ein Verhalten die Person dort an den Tag legt oder welches Verhalten dazu geführt hat, dass sie sich im Gleis befinden. Im Grunde braucht man nicht mal zwischen Person oder Gegenstand im Gleis zu unterscheiden. Hier geht es nur um die Frage: Gleis frei oder nicht. Insbesondere wenn die Kameras tatsächlich nur das Gleis erfassen, wo sich im Normalfall kein Mensch befindet. Oder es gar keine Kameras gibt, sondern nur andere Sensoren wie Lidar o.ä. Das ist also aus meiner Sicht was ganz anderes als das Erkennen von abweichendem Verhalten. Daher wäre eine Gleis-frei-Erkennung für mich ok.
Zitat
Insbesondere deinen Einwand bezüglich einer gesteuerten Konditionierung was recht ist und was nicht, sehe ich hier nicht.
Bei der Gleis-frei-Erkennung aus den genannten Gründen sicher nicht.
Zitat
Da in dem Szenario das aktuelle gesellschaftlich anerkannte und geltendem Recht entsprechende IST als normal gilt (also eben so wie sich jetzt ohnehin 99% der Menschen verhalten) und nur Abweichungen davon zu einem Ausschlag im System führen.
Selbst wenn ein System nur die bestehenden gesellschaftlichen Regelungen abbildet, würde das zu einer - aus meiner Sicht negativen - Konditionierung führen.

Zum einen gibt es, wie schon ob beschrieben Situation, in denen gar kein Mensch anwesend ist, der von einem Regelverstoß betroffen wäre, ich mich aber trotzdem unsinniger- bzw. rein formalerweise an die Regel halten muss, weil ich wegen des System negative Konsequenzen hinnehmen müsste. Außerdem verhalten sich Menschen, die beobachtet sind (oder sich auch nur fühlen), anderes als unbeobachtete. Ich will unter solchen Bedingungen nicht leben.

Man hätte ständig die Schere im Kopf, wie man sich den Regeln nach verhalten muss, damit man keine Konsequenzen zu spüren bekommt, statt zu entscheiden, sich so zu verhalten, wie man es vor sich selber und den Betroffenen rechtfertigen kann. Mit anderen Worten, es geht nicht mehr darum, sich so zu verhalten, wie man es guten Gewissens vertreten kann, sondern sich entsprechend vorgegebener und schlimmstenfalls festgefügter Regeln gezwungen ist, sich zu verhalten, wenn man negative Konsequenzen vermeiden will.

Zum anderen wird dadurch eine bestimmte Wertvorstellung konserviert und gesellschaftliche Entwicklungen werden dadurch erschwert. Zum Beispiel könnte Homosexualität, die ja in bestimmten Aspekten sogar strafbar war, weiterhin verboten sein, wenn ein solche System zuverlässig jede Überschreitung erkannt und verhindert hätte. Gesellschaftliche Liberalisierungen würden zumindest stark erschwert, wenn es nicht Freiräume für Überschreibungen und Missachtungen bestimmter bestehenden Regeln gib.

Außerdem finde ich, macht man es sich zu einfach, wenn man sagt, betrifft 99% der Menschen - also auch mich - nicht, also ist es ok. Man muss auch prüfen, was es für das eine Prozent bedeutet. Zum Beispiel für Leute, die sich aufgrund psychischer Erkrankungen "unnormal" verhalten. Selbst wenn diese nicht bestraft würden, wären sie doch Konsequenzen ausgesetzt und sei es nur, ständig das abweichende Verhalten erklären oder sich dafür rechtfertigen zu müssen.

Also automatisiere Verhaltenskontrolle ist für mich vollkommen unvereinbar mit einer liberalen Gesellschaft, der die freie Entfaltung ihrer Bürger selbst dann zulässt, wenn es hergebrachten gesellschaftlichen Normen nicht entspricht. Und so gesellschaftliche Entwicklung ermöglicht.
Zitat
Und letzteres bräuchtest du um eine gesteuerte Konditionierung zu betreiben.
Nein, sehe ich genau andersherum. Wenn z.B. sicher gestellt wäre, dass zuverlässig nur schwer(st)e Straftaten erkannt werden würden, wäre das ein viel geringerer Eingriff in die freie Entfaltung der Persönlichkeit, durch die schwere Straftaten sowieso nicht legitimiert werden, als wenn jegliches abweichendes Verhalten gemeldet und im schlimmsten Fall geahndet werden würde.

herbivore
private Nachricht | Beiträge des Benutzers
emuuu
myCSharp.de - Member

Avatar #avatar-4078.jpg


Dabei seit:
Beiträge: 286

beantworten | zitieren | melden

Hallo herbivore,

ich picke mir mal den Punkt heraus, da ich deinen weiteren mit deiner Argumentation folgen kann und du damit imho auch Recht hast:
Zitat von herbivore
Wenn z.B. sicher gestellt wäre, dass zuverlässig nur schwer(st)e Straftaten erkannt werden würden, wäre das ein viel geringerer Eingriff in die freie Entfaltung der Persönlichkeit, durch die schwere Straftaten sowieso nicht legitimiert werden, als wenn jegliches abweichendes Verhalten gemeldet und im schlimmsten Fall geahndet werden würde.

Der eigentliche Punkt ist ja: Solche Systeme machen grundsätzlich Sinn und der tatsächliche Gradmesser ist wofür diese nun eingesetzt werden und wofür nicht. Du zeichnest ein sehr 1984iges Szenario indem jedes abweichende Verhalten registriert wird. Ich denke da will (hier im Forum) keiner hin und gerade mit Sicht auf aktuelle politische Strömungen bedarf dies sicher einer noch intensiveren Betrachtung.

Allerdings ist mein Ansatz eher, dass solche Systeme in einem makroskopischeren Zusammenhang Anwendung finden: z.B. wenn ein System, dass Verkehrsunfälle registriert und automatisch die Rettungskräfte alamiert würde ich ohne Einwände befürworten (technische Ausgereiftheit vorausgesetzt), wenn das gleiche System mir automatisch einen Ordnungsgeld gutschreibt, wenn ich bei Rot über die Ampel gehe würde ich dies ablehnen.

Und wo da die Grenze gezogen wird ist imho der eigentliche Kern der Diskussion. Daher finde ich es besonders wichtig, dass ein politischer & gesellschaftlicher Diskurs geführt wird und diese Entscheidungen nicht in irgendwelchen Konzernen getroffen werden (können).

Beste Grüße
emuuu
Dieser Beitrag wurde 1 mal editiert, zum letzten Mal von emuuu am .
2+2=5 (für extrem große Werte von 2)
private Nachricht | Beiträge des Benutzers
Palin
myCSharp.de - Member



Dabei seit:
Beiträge: 1115

Themenstarter:

beantworten | zitieren | melden

Hallo emuuu,

natürlich muss/sollte ein politischer & gesellschaftlicher Diskus geführt werden und im Endeffekt muss ja die Politik Gesetze erlassen.

Hier hierfür muss aber erst mal betrachtet werden, was überhaupt (Technisch) möglich ist. Was als rahmen Bedingungen gegeben sein muss. Und welche positiven und als auch negative Auswirkung es haben wird.

Grundlegent geht es hier ja um Video Überwachung im öffentlichen Raum und sie Flächendeckend einzusetzen.

Eines der Hauptargumente dafür ist ja immer präventive Straftaten und Terrorrisstische Bedrohungen erkennen zu können. Meines Erachtens wird, das Video Überwachung alleine nie liefern können. Und es werden auf jeden Fall zusätzliche Informationen gebraucht werden, was gerne verschwiegen wird. Und diese müssen eigentlich auch für alle erfasst werden. Um ansatzweise effektive zu sein.

Dann wird auch noch meines Erachtens fälschlicher weise davon ausgegangen, das Terroristen an "abnormalen Verhalten" zu erkennen sind. In den meisten Fällen sind sie aber genau grade das nicht (würde es ja auch leicht machen sie zu erkennen). Meist ist es ja genau eher umgekehrt und sie sich in der der öffentlich usw. eher "Überdurchschnittlich" Normal verhalten.
Sollte man mal gelesen haben:

Clean Code Developer
Entwurfsmuster
Anti-Pattern
private Nachricht | Beiträge des Benutzers
MrSparkle
myCSharp.de - Team

Avatar #avatar-2159.gif


Dabei seit:
Beiträge: 5961
Herkunft: Leipzig

beantworten | zitieren | melden

Hier mal ein praktisches Beispiel mit der Amazon-Gesichtserkennung:
Zitat
Obwohl nur 20 Prozent der Mitglieder im Kongress farbig sind, lag der Anteil der im Test falsch zugeordneten schwarzen Personen bei 40 Prozent.

Die ACLU hat die Software mal an einigen Fotos von Kongress-Mitgliedern getestet. Das ist jetzt keine wissenschaftliche Untersuchung gewesen, sondern ein Publicity-Stunt, mit dem auf die Probleme mit dieser Art von automatisierten Überwachung hingewiesen werden sollte.

Es zeigt sich halt immer wieder, daß diese Art von KI immer genauso rassistisch, borniert und voreingenommen ist, wie diejenigen, die sie trainiert haben. Das hat man damals ja schon an diesem Microsoft-Chat-Bot gut erkennen können: Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day
Weeks of programming can save you hours of planning
private Nachricht | Beiträge des Benutzers
Palin
myCSharp.de - Member



Dabei seit:
Beiträge: 1115

Themenstarter:

beantworten | zitieren | melden

Am Berliner Bahnhof wurden ja jetzt Test zur Gesichtserkennung durchgeführt.
Hier mal was der CCC davon hält.
Biometrische Videoüberwachung: Der Südkreuz-Versuch war kein Erfolg
Sollte man mal gelesen haben:

Clean Code Developer
Entwurfsmuster
Anti-Pattern
private Nachricht | Beiträge des Benutzers
Palin
myCSharp.de - Member



Dabei seit:
Beiträge: 1115

Themenstarter:

beantworten | zitieren | melden

Hier mal was von Microsoft zu dem Thema.
Spiegel:Microsoft warnt vor staatlicher Totalüberwachung
Sollte man mal gelesen haben:

Clean Code Developer
Entwurfsmuster
Anti-Pattern
private Nachricht | Beiträge des Benutzers
herbivore
myCSharp.de - Experte

Avatar #avatar-2627.gif


Dabei seit:
Beiträge: 52329
Herkunft: Berlin

beantworten | zitieren | melden

Hallo Palin,

nur als Hinweis: die Warnung ist nicht ganz neu und weiter oben wurden schon zwei ähnliche Meldungen verlinkt und in späteren Beiträgen auch diskutiert. Der Unterschied ist wohl, dass Microsoft damals zunächst Probleme aufgezeigt und Fragen aufgeworfen hatte und nun den Zeitpunkt fürs Handeln gekommen sieht.

herbivore
private Nachricht | Beiträge des Benutzers