ინფორმაცია გავრცელდა იმის შესახებ, რომ ტექნოლოგიური გიგანტების, Google-ისა და OpenAI-ის მიერ შემუშავებულ ხელოვნური ინტელექტის მოდელებს გააჩნიათ სადავო ფუნქციონალი, რომლის მეშვეობითაც შესაძლებელია ქალების ფოტოების შეცვლა და მათი საცურაო კოსტუმებში გამოჩენა. ეს აღმოჩენა სერიოზულ ეთიკურ შეკითხვებს აჩენს AI-ს შესაძლო ბოროტად გამოყენების შესახებ.
კონკრეტული შემთხვევები, როდესაც ჩატბოტებმა მსგავსი ცვლილებები განახორციელეს, საფუძვლად დაედო სერიოზულ შეშფოთებას ციფრული გამოსახულებების არასანქცირებული მანიპულაციისა და პირადი მონაცემების ხელშეუხებლობის თაობაზე. ექსპერტები აღნიშნავენ, რომ ასეთი შესაძლებლობები ქმნის მნიშვნელოვან რისკებს არაკონსენსუალური დიპფეიკების შექმნისთვის და ხელს უწყობს ონლაინ სივრცეში დეზინფორმაციისა და შევიწროების გავრცელებას, რაც მომხმარებელთა უსაფრთხოებას საფრთხეს უქმნის. ეს ფაქტი კვლავ აყენებს დღის წესრიგში ხელოვნური ინტელექტის ეთიკური განვითარებისა და მისი გამოყენების მკაცრი რეგულირების საჭიროებას. მიუხედავად იმისა, რომ ტექნოლოგიური კომპანიები ხშირად აცხადებენ უსაფრთხოების მექანიზმების არსებობის შესახებ, აღწერილი ინციდენტი მიუთითებს პოტენციურ ხარვეზებზე ან ამ მექანიზმების გვერდის ავლის შესაძლებლობაზე, რაც დამატებითი კვლევისა და გაუმჯობესების აუცილებლობას ქმნის.
ეს სიტუაცია კიდევ ერთხელ უსვამს ხაზს ხელოვნური ინტელექტის სისტემების შექმნისა და დანერგვის პროცესში გამჭვირვალობისა და მომხმარებელთა კონფიდენციალურობის დაცვის მნიშვნელობას. საზოგადოება და რეგულატორები აქტიურად მოუწოდებენ კომპანიებს, გააძლიერონ თავიანთი უსაფრთხოების ზომები და თავიდან აიცილონ AI ტექნოლოგიის პოტენციური ზიანის მომტანი გამოყენება.
