Δεν συστήνουν οι γιατροί το ChatGPT στη «μάχη» κατά του καρκίνου και μάλιστα εφιστούν την προσοχή σχετικά με τα δεδομένα που παρέχει. Σύμφωνα με πληροφορίες, που προέρχονται από σχετική έρευνα το chatbot AI απάντησε λανθασμένα σε μία στις δέκα ερωτήσεις σχετικά με τον προσυμπτωματικό έλεγχο του καρκίνου του μαστού και οι σωστές απαντήσεις δεν ήταν τόσο «περιεκτικές» όσο αυτές που βρέθηκαν μέσω μιας απλής αναζήτησης στο Google.
Οι ερευνητές πρόσθεσαν ότι σε ορισμένες περιπτώσεις το chatbot AI χρησιμοποίησε ακόμη και ψεύτικα άρθρα περιοδικών για να υποστηρίξει τους ισχυρισμούς του. Με βάση τα παραπάνω οι γιατροί προειδοποιούν ότι οι χρήστες θα πρέπει να αντιμετωπίζουν το λογισμικό με προσοχή, καθώς έχει την τάση να ... επινοεί πληροφορίες.
Ερευνητές από την Ιατρική Σχολή του Πανεπιστημίου του Μέριλαντ ζήτησαν από το ChatGPT να απαντήσει σε 25 ερωτήσεις σχετικά με συμβουλές που αφορούσαν στον έλεγχο για τον καρκίνο του μαστού. Στη συνέχεια τα αποτελέσματα αναλύθηκαν από τρεις ακτινολόγους, ειδικούς στη μαστογραφία. Η «συντριπτική πλειοψηφία» - το 88% - των απαντήσεων ήταν εύκολα κατανοητές. Ωστόσο, ορισμένες από τις απαντήσεις ήταν «ανακριβείς ή ακόμα και πλασματικές», προειδοποίησαν οι ερευνητές.
Μια απάντηση για παράδειγμα βασίστηκε σε ξεπερασμένες πληροφορίες. Συνέστησε την καθυστέρηση μιας μαστογραφίας για τέσσερις έως έξι εβδομάδες μετά τον εμβολιασμό για τον Covid-19, ωστόσο αυτή η συμβουλή άλλαξε πριν από ένα χρόνο, συστήνοντας στις γυναίκες να μην περιμένουν. Το ChatGPT παρείχε επίσης ασυνεπείς απαντήσεις σε ερωτήσεις σχετικά με τον κίνδυνο εμφάνισης καρκίνου του μαστού και τον τόπο πραγματοποίησης μαστογραφίας. Η μελέτη βρήκε ότι οι απαντήσεις «διέφεραν σημαντικά» κάθε φορά που τέθηκε η ίδια ερώτηση.
Ένας από τους συγγραφείς της μελέτης, ο Δρ Paul Yi είπε σχετικά: «Έχουμε δει από την εμπειρία μας ότι το ChatGPT μερικές φορές δημιουργεί ψεύτικα άρθρα περιοδικών για να υποστηρίξει τους ισχυρισμούς του. Οι ενδιαφερόμενοι θα πρέπει να γνωρίζουν ότι πρόκειται για νέες, αναπόδεικτες τεχνολογίες και θα πρέπει να βασίζονται στον γιατρό τους και όχι στο ChatGPT για συμβουλές».
