CAN ARTIFICIAL INTELLIGENCE LIE? A PHILOSOPHY OF LANGUAGE ANALYSIS OF DECEPTION AND AI HALLUCINATION

Abstrak

Kecerdasan buatan generatif mempersulit pemahaman konvensional tentang kebenaran, kepercayaan, dan agensi komunikatif, terutama ketika respons yang fasih dapat memuat informasi karangan yang lazim disebut halusinasi AI. Penelitian ini menelaah apakah keluaran AI yang keliru dapat dipahami secara bermakna sebagai kebohongan dan syarat apa yang harus terpenuhi untuk atribusi tersebut. Dengan analisis kasus konseptual kualitatif berlandaskan filsafat bahasa, penelitian ini memadukan konsep makna penutur dan maksud komunikatif Grice dengan pembedaan filosofis antara kekeliruan, penipuan, dan kebohongan. Serangkaian prompt verifikasi diajukan kepada satu sistem AI generatif, dan jawabannya diperiksa terhadap catatan bibliografis. Referensi dan keterangan bibliografis yang diberikan sistem tersebut akurat, dan sistem menolak mengarang kutipan, volume jurnal, serta isi artikel rekaan; ketika ditanya apakah ia berbohong, sistem menyangkal memiliki maksud demikian. Kasus-kasus ini menunjukkan bahwa kefasihan saja tidak menandakan kekeliruan dan bahwa pernyataan AI tentang maksudnya sendiri merupakan keluaran linguistik yang perlu ditafsirkan. Penelitian ini mengusulkan pembedaan antara kekeliruan proposisional, penipuan yang dialami, dan kebohongan yang disengaja, serta menekankan pentingnya literasi AI yang kritis dan verifikasi epistemik.

Generative artificial intelligence complicates conventional understandings of truth, trust, and communicative agency, particularly when fluent responses may contain fabricated information commonly called AI hallucinations. This study asks whether false outputs of AI can meaningfully be understood as lies and what conditions would have to hold for such an attribution. Using a qualitative conceptual case analysis informed by philosophy of language, it combines Gricean accounts of speaker meaning and communicative intention with philosophical distinctions among falsehood, deception, and lying. A series of verification prompts was posed to one generative AI system, and its responses were checked against bibliographic records. The references and bibliographic details the system supplied were accurate, and it declined to fabricate a quotation, a journal volume, and the contents of an invented article; asked whether it had lied, it denied intending to. These cases show that fluency alone does not signal falsehood and that an AI's statements about its own intention are linguistic outputs requiring interpretation. The study proposes a distinction among propositional falsehood, experienced deception, and intentional lying, and highlights the importance of critical AI literacy and epistemic verification.