KI und Gesellschaft

KI und Gesellschaft

KI und Gesellschaft

Sortieren:
Neueste zuerst
10 Suchergebnisse
Blog

Wachsamkeit & Verifikation: Wege aus der digitalen Vertrauenskrise

Es ist eine traurige Wahrheit: Im Internet wie im analogen Leben, im Hochschulbereich wie darüber hinaus, meinen es nicht alle gut mit einem. Deshalb ist es wichtig zu wissen, wie man Falschinformationen erkennt und mit Täuschungen umgeht. In ihrem neuen Blogbeitrag klären Christoph Koitka-Fieke und Simon Vonlanthen über die gängigsten Gefahren in diesem Bereich auf und geben konkrete Ratschläge, wie man sich sicher im Internet und im Hochschulbereich bewegt.

Publikation

Diskussionspapier Nr. 41: Gefährdet generative KI die digitale Autonomie im Studium?

Unregulierte Handlungsfreiheit beim Einsatz generativer KI ist nicht gleichbedeutend mit digitaler Autonomie. Das Diskussions-papier zeigt, wie eine intensive KI-Nutzung grundlegende akade-mische Kompetenzen beeinträchtigen und Bildungsziele gefähr-den kann. Es beschreibt, welche Verantwortung Fächer, Lehrende und Studierende tragen, um Deskilling einzudämmen und selbst-bestimmtes digitales Handeln im Studium zu ermöglichen.

Deckblatt von Diskussionspapier 41: Gefährdet generative KI die digitale Autonomie im Studium?
Blog

KI prüft KI – und scheitert? Über Bias-Effekte und Verzerrungen in KI‑Detektoren

Die Diskussionen über den Einsatz von KI erweitern sich zunehmend um die Frage, ob sogenannte KI-Detektoren sinnvoll eingesetzt werden können, also Software, die erkennen soll, ob ein Text von einem Menschen verfasst oder KI-generiert wurde. Was auf den ersten Blick nach einer unkomplizierten Lösung zur Aufdeckung von Täuschungsversuchen klingt, erweist sich jedoch als problematisch: Der Einsatz von KI-Detektoren führt zu unzuverlässigen Ergebnissen und ist durch sozial verzerrte Trainingsdaten und Outputs ethisch fragwürdig.

Dekoratives Sharepic. Text: Teil III der Reihe „Machtkritische und bias-sensible KI“ / Blog- KI prüft KI – und scheitert? Über Bias-Effekte und Verzerrungen in KI‑Detektoren / Ein Blogbeitrag von Inga Gostmann und Lea Hildermeier. Unten rechts: Logo Hochschulforum Digitalisierung.
Blog

KI als Spiegel unserer Gesellschaft – Ein Gespräch mit Lena Nedwed und Tim Trappen über Macht, Bias und Verantwortung

Künstliche Intelligenz klingt nach Zukunft und Fortschritt, trägt jedoch die Vergangenheit in sich. KI lernt aus historischen Daten, die alles andere als neutral sind. In ihnen stecken Vorurteile, ungleiche Machtverhältnisse und historische Ungleichheiten. Welche Auswirkungen das haben kann, zeigen Lena Nedwed und Tim Trappen von der Ruhr-Universität Bochum in ihrer Seminararbeit: Sie haben untersucht, wie Bildgenerierungs-KI Menschen unterschiedlicher Geschlechter und Hautfarben im beruflichen Kontext darstellt – mit aufschlussreichen Ergebnissen.

Sharepic. Obere Hälfte: Schwarz/Weiß Bild von vielen Personen Umrissen. Text in rotem Kreis: Teil II der Interview-Reihe "Machtkritische und bias-sensible KI". Untere Hälfte: Text: "Blog - KI als Spiegel unserer Gesellschaft - Ein Gespräch mit Lena Nedwed und Tim Trappen über Macht, Bias und Verantwortung. Ein Interview von Johanna Leifeld" Unten rechts: Logo Hochschulforum Digitalisierung.
Blog

Bias erkennen, Verantwortung übernehmen: Kritische Perspektiven auf KI und Datenqualität in der Hochschulbildung

Die Hochschullandschaft steht vor einem Wendepunkt: Künstliche Intelligenz verändert Lehre, Forschung und Studium grundlegend. Sprachmodelle wie ChatGPT oder Claude sind bereits im universitären Alltag angekommen, doch ihr Einsatz wirft dringende Fragen auf. Der Beitrag beleuchtet insbesondere das Problem von Verzerrungen in KI-Systemen und zeigt, warum Hochschulen einen bewussten und kritischen Umgang mit der Technologie brauchen.

Blogtitelbild zur Interviewreihe „Machtkritische und bias-sensible KI“ mit Diagramm und Figur; Thema Bias, Verantwortung und KI in der Hochschulbildung.
Blog

EU AI Act: Wie wird Deutschland KI-kompetent? Herausforderungen und Chancen für die Hochschullehre

Mit dem AI Act hat die EU ein verbindliches Regelwerk für den Einsatz Künstlicher Intelligenz geschaffen – mit weitreichenden Folgen auch für Hochschulen. Ob in Lehre, Forschung oder Verwaltung: KI-Systeme müssen künftig Anforderungen genügen, die Sicherheit, Transparenz und ethische Standards gewährleisten sollen. Mike Brand und Michael Kirchner vom KI-Campus erläutern in diesem Beitrag, welche konkreten Auswirkungen der AI Act auf den Hochschulalltag hat – und welche Kompetenzen jetzt besonders gefragt sind.

Blog

Die neue HFDVisions-Blogreihe „Was wäre, wenn…?“: Katharina Stimming und Tobias Seidl über Visionen als Richtungsgeber für Hochschulen

Die Auseinandersetzung mit alternativen „Zukünften“ ermöglicht es uns, Entwicklungen und Treiber von Veränderungen zu antizipieren, wünschenswerte Zukunftsszenarien partizipativ zu entwickeln und die Zukunft damit aktiv mitzugestalten. Im Rahmen des co-kreativen Programms HFDvisions des Hochschulforums Digitalisierung und der DigitalChangeMaker-Initiative haben 10 Hochschulen und ein Hochschulverbund in statusgruppenübergreifenden Teams Zukunftsszenarien für die eigene Hochschule in 2035 und […]

Banner für den Call for Studis: "WERDE #DIGITALCHANGEMAKER" Untertitel: Die studentische Zukunfts-Initiative vom HFD. Jetzt bis 14. Juli 2023 bewerben und mitmachen!" Auf der linken Seite befindet sich ein Chamäleon. Logos unten links: Hochschulforum Digitalisierung und DigitalChangeMaker
Blog

Diskriminierung durch Algorithmen – Interview mit Katharina Simbeck

Künstliche Intelligenz und Algorithmen werden zunehmend in alltägliche Prozesse integriert. Gerade im „Wissenschaftsjahr 2019 Künstliche Intelligenz“ ist dieser Trend auch an den Hochschulen zu verspüren. Aber kritikfrei? Es braucht qualitativ hochwertige diskriminierungsfreie Daten, sowie ausgebildete Personen, die sicher mit diesen Daten umgehen können. Wir waren im Gespräch mit Prof. Dr. Katharina Simbeck von der HTW […]

Bilderkennung, Spracherkennung und Co. durch Algorithmen. Bleibt es divers?