Gute wissenschaftliche Praxis und künstliche Intelligenz

Hier finden Sie Literatur und weitere Beiträge zu guter wissenschaftlicher Praxis (GWP) und künstlicher Intelligenz (KI). Der Fokus liegt dabei auf Themen, die Forschungspraxis und Wissenschaft als Ganzes betreffen, und weniger auf Lehre und Prüfungsangelegenheiten. Viele Stellungnahmen von Universitäten, die sich hauptsächlich mit Letzterem befassen, sind daher nicht gelistet. Da die Entwicklungen im Bereich KI sehr fluide sind, besteht für den Umgang mit KI zur Zeit zwar schon ein gewisser Konsens, aber es existieren dennoch teils heterogene Empfehlungen in Bezug auf Details.

Das Ombudsgremium hat basierend auf dem derzeitigen Stand ein FAQ zum Thema KI und GWP erarbeitet. Sie finden eine interaktive Version hier auf der Website sowie eine PDF-Version in deutscher wie englischer Sprache zum Download bei Zenodo.

Allgemein

FAQ Künstliche Intelligenz und gute wissenschaftliche Praxis (Katrin Frisch, Zenodo, 2024)

ChatGPT und andere Computermodelle zur Sprachverarbeitung – Grundlagen, Anwendungspotenziale und mögliche Auswirkungen (Steffen Albrecht, Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB), 2023).

Artifizielle und postartifizielle Texte. über die Auswirkungen Künstlicher Intelligenz auf die Erwartungen an literarisches und nichtliterarisches Schreiben (Hannes Bajohr, Sprache im technischen Zeitalter, Jahrgang 61, Heft 245, 2023).

The Case for Generative AI in Scholarly Practice (Chris Berg, SSRN, 2023). http://dx.doi.org/10.2139/ssrn.4407587

Protecting scientific integrity in an age of generative AI (Wolfgang Blau, Vinton G. Cerf, Juan Enriquez et al., PNAS Volume 121, No. 22, 2024). https://doi.org/10.1073/pnas.2407886121

Opinion Paper: “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy (Yogesh K. Dwivedi, Nir Kashetri, Laurie Hughes et al., International Journal of Information Management, Volume 71, 2023). https://doi.org/10.1016/j.ijinfomgt.2023.102642

Verordnung über künstliche Intelligenz (EU AI Act), 2024.

Friend or Foe? Exploring the Implications of Large Language Models on the Science System (Benedikt Fecher, Marcel Hebing, Melissa Laufer et al., Arxiv, 2023). https://doi.org/10.48550/arXiv.2306.09928

Textgenerierende KI und gute wissenschaftliche Praxis (Katrin Frisch, Felix Hagenström und Nele Reeg; ZfBB, Jahrgang 70, Heft 6, 2023). https://doi.org/10.3196/186429502370667

Didaktische und rechtliche Perspektiven auf KI-gestütztes Schreiben in der Hochschulbildung (Jonas Leschke und Peter Salden, Ruhr-Universität Bochum, 2023). https://doi.org/10.13154/294-9734

The ethics of using artificial intelligence in scientific research: new guidance needed for a new tool (David. B. Resnik und Mohammad Hosseini; AI and Ethics, 2024). https://doi.org/10.1007/s43681-024-00493-8

Generative AI Product Tracker (Liste von Ithaka S+R, die KI-Anwendungen für den Bereich Hochschulbildung und Forschung zusammenträgt und zusätzliche Informationen zu Anwendung, Limitationen, Verfügbarkeit etc. bietet).

Empfehlungen/Policies/Handreichungen zum Umgang mit KI

ALLEA – All European Academies: The European Code of Conduct for Research Integrity – Revised Edition, 2023. https://doi.org/10.26356/ECOC

ACS Nano: Best Practices for Using AI When Writing Scientific Manuscripts, 2023, 17, 5, 4091–4093.

Deutsche Forschungsgemeinschaft: „Stellungnahme des Präsidiums der Deutschen Forschungsgemeinschaft (DFG) zum Einfluss generativer Modelle für die Text- und Bilderstellung auf die Wissenschaften und das Förderhandeln der DFG“, 2023

Europäische Kommission: Living guidelines on the responsible use of generative AI in research, 2024

Helmholtz Gemeinschaft: Handlungsempfehlungen zum Einsatz von Künstlicher Intelligenz, 2024.

Leibniz Gemeinschaft: Empfehlung zur Sicherung der guten wissenschaftlichen Praxis beim Umgang mit Künstlicher Intelligenz, 2024.

Weizenbaum Institut: Richtlinie zur Nutzung von generativer KI am Weizenbaum-Institut (Jochen Knaus, Sascha Friesike, Ricarda Opitz, Jan Hase, Dietmar Kammerer und Claudia Oellers), 2025. https://doi.org/10.5281/zenodo.14844475

Verlage/Publikationswesen

Berlin Universities Publishing: „Leitlinie zum Umgang mit künstlicher Intelligenz“ und  „Handreichung zur Zitation von KI-Tools”, 2024

Elsevier: Generative AI policies for journals

ICMJE: Recommendations for the Conduct, Reporting, Editing, and Publication of Scholarly Work in Medical Journals, 2024

Science Journals: Editorial Policies

Springer Nature: Editorial Policies: Artificial Intelligence

Taylor & Francis: AI Policy

WAME: Recommendations on Chatbots and Generative Artificial Intelligence in Relation to Scholarly Publications, 2023

Wiley: Best Practice Guidelines on Research Integrity and Publishing Ethics: Artificial Intelligence

Style Guides

APA Style Guide: How to Cite ChatGPT

Chicago Manual of Style: Citing content developed or generated by artificial intelligence

MLA Style Guides How do I cite generative AI in MLA style?


Autorschaft und künstliche Intelligenz

Artificial Intelligence and Authorship (Alysa Levene, COPE, 2023).

AI-Assisted Authorship: How to Assign Credit in Synthetic Scholarship (Ryan Jenkins und Patrick Lin, SSRN, 2023). http://dx.doi.org/10.2139/ssrn.4342909

ChatGPT listed as author on research papers: many scientists disapprove (Chris Stokel-Walker, Nature, 2023).

We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published (Almira Osmanovic Thunström, Scientific American Magazine, Volume 327, Issue 3, 2022).


KI-Nutzung in Publikationen transparent machen

The ethics of disclosing the use of artificial intelligence tools in writing scholarly manuscripts (Mohammad Hosseini, David B. Resnik und Kristi Holmes, Research Ethics, Volume 19, Issue 4, 2023). https://doi.org/10.1177/17470161231180449

Using AI to write scholarly publications (Mohammad Hosseini, Lisa M. Rasmussen und David B. Resnik, Accountability in Research, 2023). https://doi.org/10.1080/08989621.2023.2168535


Verstöße und Detektion im Zusammenhang mit KI

Comparing scientific abstracts generated by ChatGPT to real abstracts with detectors and blinded human reviewers (Catherine A Gao, Frederick M. Howard, Nikolay S. Markov et al., npj Digital Medicine, Volume 6, Issue 75, 2023). https://doi.org/10.1038/s41746-023-00819-6

Urheberrechtliche Fragen der Textgenerierung durch Künstliche Intelligenz: Insbesondere Schöpfungen und Rechtsverletzungen durch GPT und ChatGPT (Roman Konertz, Wettbewerb in Recht und Praxis, Jahrgang 69, 2023). https://doi.org/10.18445/20230613-111651-0

Plagiarismus in Zeiten Künstlicher Intelligenz (Anika Limburg, Peter Salden, Margret Mundorf und Doris Weßels, Zeitschrift für Hochschulentwicklung, Jahrgang 17, Heft 3, 2022). https://doi.org/10.3217/zfhe-17-03/06

Why Nature will not allow the use of generative AI in images and video (Nature 618, 2023, S. 214).

Per Prompt zum Plagiat? Rechtssicheres Publizieren von KI-generierten Inhalten (Ulrike Verch, API, Band 5, Nr. 1, 2024). https://doi.org/10.15460/apimagazin.2024.5.1.191

Testing of detection tools for AI-generated text (Debora Weber-Wulff, Alla Anohina-Naumeca, Sonja Bjelobaba, et al., International Journal for Education Integrity, Volume 19, Issue 26, 2023). https://doi.org/10.1007/s40979-023-00146-z


Einsatz von künstlicher Intelligenz bei Peer Review

AI-assisted peer review (Alessandro Checco, Lorenzo Bracciale, Pierpaolo Loreti et al., Humanities and Social Sciences Communications, Volume 8, Issue 25, 2021). https://doi.org/10.1057/s41599-020-00703-8

Fighting reviewer fatigue or amplifying bias? Considerations and recommendations for use of ChatGPT and other large language models in scholarly peer review (Mohammad Hosseini und Serge P.J.M. Horbach, Research Integrity and Peer Review, Volume 8, Issue 4, 2023). https://doi.org/10.1186/s41073-023-00133-5

Using AI in Peer Review Is a Breach of Confidentiality (Mike Lauer, Stephanie Constant und Amy Wernimont, NIH Center for Scientific Review, 2023).

Is the future of peer review automated? (Robert Schulz, Adrian Barnett, René Bernard et al., BMC Research Notes, Volume 15, Issue 203, 2022). https://doi.org/10.1186/s13104-022-06080-6

Photo by Maxime Valcarce via Unsplash