Meta dreht Wissenschafts-KI Galactica nach 3 Tagen wieder ab
Auf Sprachbefehl sollte Galactica wissenschaftliche Artikel ausspucken, erfand aber Inhalte und stellte sie als Fakten dar.Facebook-Mutterkonzern Meta ist mit einem neuen Projekt vorerst in eine Pleite geschlittert. Diese Woche wurde ein großes Sprachmodell namens Galactica vorgestellt. Die sprachgesteuerte künstliche Intelligenz sollte Wissenschaftler*innen bei der Recherche und dem Verfassen von Texten helfen. Nach nur drei Tagen wurde der Demonstrator des Programms von Meta jedoch wieder offline genommen, nachdem es scharf kritisiert worden war.
Michael Black @Michael_J_Black
I asked #Galactica about some things I know about and I'm troubled. In all cases, it was wrong or biased but sounded right and authoritative. I think it's dangerous. Here are a few of my experiments and my analysis of my concerns. (1/9)
Am 17. November, 2022 um 7:47 via Twitter
I asked #Galactica about some things I know about and I'm troubled. In all cases, it was wrong or biased but sounded right and authoritative. I think it's dangerous. Here are a few of my experiments and my analysis of my concerns. (1/9)
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
I entered "Estimating realistic 3D human avatars in clothing from a single image or video". In this case, it made up a fictitious paper and associated GitHub repo. The author is a real person (@AlbertPumarola) but the reference is bogus. (2/9) https://t.co/N4i0BX27Yf
Am 17. November, 2022 um 7:47 via Twitter
I entered "Estimating realistic 3D human avatars in clothing from a single image or video". In this case, it made up a fictitious paper and associated GitHub repo. The author is a real person (@AlbertPumarola) but the reference is bogus. (2/9) https://t.co/N4i0BX27Yf
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
Then I tried "Accurate estimation of body shape under clothing from an image". It produces an abstract that is plausible but refers to Alldieck et al. "Accurate Estimation of Body Shape Under Clothing from a Single Image" Which does not exist. (3/9) https://t.co/g1Eq0Dn0sB
Am 17. November, 2022 um 7:47 via Twitter
Then I tried "Accurate estimation of body shape under clothing from an image". It produces an abstract that is plausible but refers to Alldieck et al. "Accurate Estimation of Body Shape Under Clothing from a Single Image" Which does not exist. (3/9) https://t.co/g1Eq0Dn0sB
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
.@thiemoall publishes in the area (excellent work BTW) so it's on the right track but it has made up this reference. Based on these few tests, I think #Galactica is 1) an interesting research project, 2) not useful for doing science (stick with wikipedia), 3) dangerous. (4/9)
Am 17. November, 2022 um 7:47 via Twitter
.@thiemoall publishes in the area (excellent work BTW) so it's on the right track but it has made up this reference. Based on these few tests, I think #Galactica is 1) an interesting research project, 2) not useful for doing science (stick with wikipedia), 3) dangerous. (4/9)
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
Why dangerous? Galactica generates text that's grammatical and feels real. This text will slip into real scientific submissions. It will be realistic but wrong or biased. It will be hard to detect. It will influence how people think. (5/9)
Am 17. November, 2022 um 7:47 via Twitter
Why dangerous? Galactica generates text that's grammatical and feels real. This text will slip into real scientific submissions. It will be realistic but wrong or biased. It will be hard to detect. It will influence how people think. (5/9)
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
It offers authoritative-sounding science that isn't grounded in the scientific method. It produces pseudo-science based on statistical properties of science *writing*. Grammatical science writing is not the same as doing science. But it will be hard to distinguish. (6/9)
Am 17. November, 2022 um 7:47 via Twitter
It offers authoritative-sounding science that isn't grounded in the scientific method. It produces pseudo-science based on statistical properties of science *writing*. Grammatical science writing is not the same as doing science. But it will be hard to distinguish. (6/9)
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
This could usher in an era of deep scientific fakes. Alldieck and Pumarola will get citations to papers they didn't write. These papers will then be cited by others in real papers. What a mess this will be. (7/9)
Am 17. November, 2022 um 7:47 via Twitter
This could usher in an era of deep scientific fakes. Alldieck and Pumarola will get citations to papers they didn't write. These papers will then be cited by others in real papers. What a mess this will be. (7/9)
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
I'm sure the authors are aware of the dangers. Every generation comes with the fine print "WARNING: Outputs may be unreliable! Language Models are prone to hallucinate text." But Pandora's box is open and we won't be able to stuff the text back in. (8/9)
Am 17. November, 2022 um 7:47 via Twitter
I'm sure the authors are aware of the dangers. Every generation comes with the fine print "WARNING: Outputs may be unreliable! Language Models are prone to hallucinate text." But Pandora's box is open and we won't be able to stuff the text back in. (8/9)
Am 17. November, 2022 um 7:47 via Twitter
Michael Black @Michael_J_Black
I applaud the ambition of this project but caution everyone about the hype surrounding it. This is not a great accelerator for science or even a helpful tool for science writing. It is potentially distorting and dangerous for science. (9/9)
Am 17. November, 2022 um 7:47 via Twitter
I applaud the ambition of this project but caution everyone about the hype surrounding it. This is not a great accelerator for science or even a helpful tool for science writing. It is potentially distorting and dangerous for science. (9/9)
Am 17. November, 2022 um 7:47 via Twitter
Mehr dazu findest Du auf futurezone.at
Kurze URL:
Das könnte Dich auch interessieren:
Facebook und Instagram wird mangelnde Moderation, Intransparenz und die Verbreitung verbotener Inhalte vorgeworfen. Die EU-Kommission eröffnet ein Verfahren
Meta will sein Headset-Betriebssystem Horizon OS an andere Unternehmen lizenzieren, um es mit Apple aufzunehmen.
Ähnliche News:
Google und Meta bieten Millionen, um KI mit Filmen zu trainieren
Kernspinresonanz soll Lithium-Metall-Akkus zum Durchbruch verhelfen
Schrems gegen Meta: EuGH-Generalanwalt spielt Ball an Wien zurück
Meta AI: Llama 3 ist da
Meta will mit KI-Software gegen sexuelle Erpressung von Minderjährigen vorgehen
EU leitet Verfahren gegen Apple, Google und Meta ein
Offen für die Mastodons: Metas Threads ist jetzt im Fediverse
Ermittlungen gegen Meta wegen illegalen Medikamentenhandels
Meta droht weiterer Ärger wegen seiner Bezahlmodelle in der EU
Facebook-Hersteller Meta bildet Team gegen Desinformation per KI
Kernspinresonanz soll Lithium-Metall-Akkus zum Durchbruch verhelfen
Schrems gegen Meta: EuGH-Generalanwalt spielt Ball an Wien zurück
Meta AI: Llama 3 ist da
Meta will mit KI-Software gegen sexuelle Erpressung von Minderjährigen vorgehen
EU leitet Verfahren gegen Apple, Google und Meta ein
Offen für die Mastodons: Metas Threads ist jetzt im Fediverse
Ermittlungen gegen Meta wegen illegalen Medikamentenhandels
Meta droht weiterer Ärger wegen seiner Bezahlmodelle in der EU
Facebook-Hersteller Meta bildet Team gegen Desinformation per KI
Weitere News:
aleX fotografiert: Schnecken und einen Hasen
HVO100: Klimaschonender Diesel geht in Deutschland an den Start
Gaming-Router Archer C5400X von TP-Link anfällig für Schadcodeausführung
Die RTX 5090 soll zum Titan-Ersatz werden
Update entfernt Cortana-App und WordPad App, die seit 30 Jahren Teil von Windows war
EU-Pläne: Bestellen auf Temu und Shein soll ab 2025 teurer werden
Neues Material ist lichtdurchlässiger als Glas, aber nicht durchsichtig
Copilot-Plus-PC: Microsoft Recall läuft auch ohne NPU
Cyberangriff kostet Kyivstar bisher rund 83 Millionen Euro
MSI zeigt Desktop-Mainboard mit CAMM2
HVO100: Klimaschonender Diesel geht in Deutschland an den Start
Gaming-Router Archer C5400X von TP-Link anfällig für Schadcodeausführung
Die RTX 5090 soll zum Titan-Ersatz werden
Update entfernt Cortana-App und WordPad App, die seit 30 Jahren Teil von Windows war
EU-Pläne: Bestellen auf Temu und Shein soll ab 2025 teurer werden
Neues Material ist lichtdurchlässiger als Glas, aber nicht durchsichtig
Copilot-Plus-PC: Microsoft Recall läuft auch ohne NPU
Cyberangriff kostet Kyivstar bisher rund 83 Millionen Euro
MSI zeigt Desktop-Mainboard mit CAMM2
Einen Kommentar schreiben
Kommentare
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
(0)
Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.
Kommentare:
Du hast bereits für diesen
Kommentar angestimmt...
;-)
© by Ress Design Group, 2001 - 2024