מאמר חדש: האומנות ניצחה את המכונה

האומנות, ולא האדם - ניצחה את המכונה.

מאמר חדש מראה כיצד באמצעות ASCII-ART (צורה של אומנות דיגיטלית) ניתן לרמות מכונה, ״לפרוץ״ אותה או לגרום לה לעשות דברים שהיא לא התכוונה.

אם זה היה סרט, ומכונות היו משתלטות על הכדור כולו - זה היה הרגע שבו בני האדם היו מבינים שהם יכולים לתקשר ביניהם ולחבל במכונה ע״י שפה סודית שהיא לא מבינה - האומנות.

(* נא לא לשכוח אותי בקרדיטים אם גנבתם)

בדוגמא למטה, דוגמא איך פורצים את chatgpt שאסור לו לענות על שאלות מסוכנות. אבל ברגע ש״מציירים״ לו את המילה הבעייתית במקום לכתוב לו אותה בטקסט - הוא מבין את המשמעות (ועונה) אבל לא מבין שעבדו עליו...