ಟೇಲರ್ ಸ್ವಿಫ್ಟ್‌ನ ಪೋರ್ನ್ ಫೋಟೋಗಳು ಜೋ ಬಿಡನ್ ರೋಬೋಕಾಲ್ಸ್ ಡೀಪ್‌ಫೇಕ್ ಜನರೇಟ್ AI ಗೆ ಪ್ರವಾಹ | Duda News

ಟೇಲರ್ ಸ್ವಿಫ್ಟ್ ಅನ್ನು ಉಲ್ಲೇಖಿಸುವ ಸುಮಾರು 500 ವೀಡಿಯೊಗಳನ್ನು ಉನ್ನತ ಡೀಪ್‌ಫೇಕ್ ಸೈಟ್‌ನಲ್ಲಿ (ಫೈಲ್) ಹೋಸ್ಟ್ ಮಾಡಲಾಗಿದೆ

ವಾಷಿಂಗ್ಟನ್:

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯಿಂದ ಉತ್ಪತ್ತಿಯಾಗುವ ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಈ ತಿಂಗಳು ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮದಲ್ಲಿ ವೇಗವಾಗಿ ಹರಡಿವೆ, ಹಲವಾರು ಉನ್ನತ-ಪ್ರೊಫೈಲ್ ಬಲಿಪಶುಗಳನ್ನು ಹೇಳಿಕೊಳ್ಳುತ್ತವೆ ಮತ್ತು ಮುಂಬರುವ US ಚುನಾವಣಾ ಚಕ್ರದ ಮುಂದೆ ಸಾರ್ವಜನಿಕ ಸಂಭಾಷಣೆಯ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರುವ ಕುಶಲ ಮಾಧ್ಯಮದ ಅಪಾಯಗಳನ್ನು ಹೆಚ್ಚಿಸಿವೆ.

ಗಾಯಕ ಟೇಲರ್ ಸ್ವಿಫ್ಟ್ ಅವರ ಅಸಭ್ಯ ಫೋಟೋಗಳು, ಯುಎಸ್ ಅಧ್ಯಕ್ಷ ಜೋ ಬಿಡೆನ್ ಅವರ ಧ್ವನಿಯನ್ನು ಒಳಗೊಂಡ ರೋಬೋಕಾಲ್ ಮತ್ತು ಸತ್ತ ಮಕ್ಕಳು ಮತ್ತು ಹದಿಹರೆಯದವರ ಮರಣವನ್ನು ವಿವರಿಸುವ ವೀಡಿಯೊಗಳು ವೈರಲ್ ಆಗಿವೆ – ಆದರೆ ಅವುಗಳಲ್ಲಿ ಒಂದೂ ನಿಜವಲ್ಲ.

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಬಳಸಿಕೊಂಡು ರಚಿಸಲಾದ ಮೋಸಗೊಳಿಸುವ ಆಡಿಯೊ ಮತ್ತು ದೃಶ್ಯಗಳು ಹೊಸದೇನಲ್ಲ, ಆದರೆ AI ತಂತ್ರಜ್ಞಾನದಲ್ಲಿನ ಇತ್ತೀಚಿನ ಬೆಳವಣಿಗೆಗಳು ಅವುಗಳನ್ನು ರಚಿಸಲು ಸುಲಭ ಮತ್ತು ಪತ್ತೆಹಚ್ಚಲು ಕಷ್ಟಕರವಾಗಿದೆ. 2024 ರ ಕೆಲವೇ ವಾರಗಳಲ್ಲಿ ಹೆಚ್ಚು ಪ್ರಚಾರಗೊಂಡ ಘಟನೆಗಳು ಶಾಸಕರು ಮತ್ತು ಸಾಮಾನ್ಯ ನಾಗರಿಕರಲ್ಲಿ ತಂತ್ರಜ್ಞಾನದ ಬಗ್ಗೆ ಕಳವಳವನ್ನು ಹೆಚ್ಚಿಸಿವೆ.

“ಸುಳ್ಳು ಚಿತ್ರಗಳ ಹರಡುವಿಕೆಯ ವರದಿಗಳಿಂದ ನಾವು ಕಳವಳಗೊಂಡಿದ್ದೇವೆ” ಎಂದು ಶ್ವೇತಭವನದ ಪತ್ರಿಕಾ ಕಾರ್ಯದರ್ಶಿ ಕರೀನ್ ಜೀನ್-ಪಿಯರ್ ಶುಕ್ರವಾರ ಹೇಳಿದ್ದಾರೆ. “ನಾವು ಈ ಸಮಸ್ಯೆಯನ್ನು ಎದುರಿಸಲು ನಾವು ಏನು ಮಾಡಲಿದ್ದೇವೆ.”

ಅದೇ ಸಮಯದಲ್ಲಿ, ಸಾಮಾಜಿಕ ನೆಟ್‌ವರ್ಕ್‌ಗಳಲ್ಲಿ AI- ರಚಿತವಾದ ನಕಲಿ ವಿಷಯದ ಹರಡುವಿಕೆಯು ಅವುಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳ ಸಾಮರ್ಥ್ಯಕ್ಕಾಗಿ ಒತ್ತಡ ಪರೀಕ್ಷೆಯನ್ನು ನೀಡಿದೆ. ಬುಧವಾರ, ಸ್ವಿಫ್ಟ್‌ನ ಸ್ಪಷ್ಟವಾದ AI- ರಚಿತವಾದ ಡೀಪ್‌ಫೇಕ್ ಚಿತ್ರಗಳನ್ನು ಎಕ್ಸ್‌ನಲ್ಲಿ ಮಿಲಿಯನ್‌ಗಟ್ಟಲೆ ಬಾರಿ ವೀಕ್ಷಿಸಲಾಗಿದೆ, ಇದನ್ನು ಹಿಂದೆ ಟ್ವಿಟರ್ ಎಂದು ಕರೆಯಲಾಗುತ್ತಿತ್ತು, ಇದನ್ನು ಎಲೋನ್ ಮಸ್ಕ್ ಒಡೆತನದಲ್ಲಿದೆ.

X ನಂತಹ ಸೈಟ್‌ಗಳು ಸಿಂಥೆಟಿಕ್, ಮ್ಯಾನಿಪ್ಯುಲೇಟೆಡ್ ವಿಷಯವನ್ನು ಹಂಚಿಕೊಳ್ಳುವುದರ ವಿರುದ್ಧ ನಿಯಮಗಳನ್ನು ಹೊಂದಿದ್ದರೂ, ಸ್ವಿಫ್ಟ್ ಅನ್ನು ಒಳಗೊಂಡಿರುವ ಪೋಸ್ಟ್ ಅನ್ನು ತೆಗೆದುಹಾಕಲು ಗಂಟೆಗಳನ್ನು ತೆಗೆದುಕೊಂಡಿತು. ವರ್ಜ್ ಪ್ರಕಾರ, ಒಬ್ಬರು ಸುಮಾರು 17 ಗಂಟೆಗಳ ಕಾಲ ಸಕ್ರಿಯರಾಗಿದ್ದರು ಮತ್ತು 45 ಮಿಲಿಯನ್‌ಗಿಂತಲೂ ಹೆಚ್ಚು ಬಾರಿ ವೀಕ್ಷಿಸಲ್ಪಟ್ಟಿದ್ದಾರೆ, ಈ ಫೋಟೋಗಳನ್ನು ತಡೆಯಲು ಕ್ರಮ ತೆಗೆದುಕೊಳ್ಳುವ ಮೊದಲು ವೈರಲ್ ಆಗಬಹುದು ಎಂಬುದರ ಸಂಕೇತವಾಗಿದೆ.

ಶಕ್ತಿಹೀನಗೊಳಿಸು

ಕಂಪನಿಗಳು ಮತ್ತು ನಿಯಂತ್ರಕರು ಅಶ್ಲೀಲ ಕುಶಲತೆಯ ವಿಷಯದ “ವಿಕೃತ ಗ್ರಾಹಕ ಪ್ರಯಾಣ” ತಡೆಯುವ ಜವಾಬ್ದಾರಿಯನ್ನು ಹೊಂದಿದ್ದಾರೆ, ಡೀಪ್‌ಫೇಕ್ ಅಶ್ಲೀಲತೆಯ ವಿರುದ್ಧ ಕಾನೂನುಗಳ ಕುರಿತು ಸರ್ಕಾರಗಳಿಗೆ ಸಲಹೆ ನೀಡಿದ AI ತಜ್ಞ ಮತ್ತು ಸಂಶೋಧಕ ಹೆನ್ರಿ ಅಜ್ಡರ್ ಹೇಳಿದ್ದಾರೆ. ನಾವು “ವಿಭಿನ್ನ ಮಧ್ಯಸ್ಥಗಾರರು, ಅವರು ಸರ್ಚ್ ಇಂಜಿನ್‌ಗಳು, ಟೂಲ್ ಪ್ರೊವೈಡರ್‌ಗಳು ಅಥವಾ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಾಗಿರಲಿ, ಯಾರೊಬ್ಬರ ಕಲ್ಪನೆಯನ್ನು ರಚಿಸುವುದರಿಂದ ಹಿಡಿದು ವಿಷಯವನ್ನು ರಚಿಸುವ ಮತ್ತು ಹಂಚಿಕೊಳ್ಳುವ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಘರ್ಷಣೆಯನ್ನು ರಚಿಸುವ ಉತ್ತಮ ಕೆಲಸವನ್ನು ಮಾಡಬಹುದು ಎಂದು ನಾವು ಗುರುತಿಸಬೇಕಾಗಿದೆ.”

ಸ್ವಿಫ್ಟ್ ಸಂಚಿಕೆಯು X ನಲ್ಲಿ ಆಕೆಯ ಅಭಿಮಾನಿಗಳು ಮತ್ತು ಇತರರಿಂದ ಆಕ್ರೋಶವನ್ನು ಹುಟ್ಟುಹಾಕಿತು, ಇದು ಸಾಮಾಜಿಕ ವೇದಿಕೆಯಲ್ಲಿ “ಪ್ರೊಟೆಕ್ಟ್ ಟೇಲರ್ ಸ್ವಿಫ್ಟ್” ಎಂಬ ನುಡಿಗಟ್ಟು ಟ್ರೆಂಡಿಂಗ್‌ಗೆ ಕಾರಣವಾಯಿತು. ಗಾಯಕಿ ತನ್ನ ಚಿತ್ರದ ಸ್ಪಷ್ಟ AI ಕುಶಲತೆಯನ್ನು ಎದುರಿಸುತ್ತಿರುವುದು ಇದೇ ಮೊದಲಲ್ಲ, ಆದರೂ ಈ ಮಟ್ಟದ ಸಾರ್ವಜನಿಕ ಆಕ್ರೋಶದೊಂದಿಗೆ ಇದು ಮೊದಲ ಬಾರಿಗೆ.

ಬ್ಲೂಮ್‌ಬರ್ಗ್ ವಿಮರ್ಶೆಯ ಪ್ರಕಾರ, ಟಾಪ್ 10 ಡೀಪ್‌ಫೇಕ್ ವೆಬ್‌ಸೈಟ್‌ಗಳು 2023 ರ ಕೊನೆಯಲ್ಲಿ “ಟೇಲರ್ ಸ್ವಿಫ್ಟ್” ಅನ್ನು ಉಲ್ಲೇಖಿಸುವ ಸುಮಾರು 1,000 ವೀಡಿಯೊಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಿವೆ. ಇಂಟರ್ನೆಟ್ ಬಳಕೆದಾರರು ಅಶ್ಲೀಲ ಪ್ರದರ್ಶಕರ ಮುಖಗಳನ್ನು ತಮ್ಮ ದೇಹದ ಮೇಲೆ ಹೇರುತ್ತಾರೆ ಅಥವಾ ಪಾವತಿಸುವ ಗ್ರಾಹಕರಿಗೆ AI ತಂತ್ರಜ್ಞಾನವನ್ನು ಬಳಸಿಕೊಂಡು ತಮ್ಮ ಬಲಿಪಶುಗಳನ್ನು “ನಗ್ನ” ಮಾಡುವ ಸಾಮರ್ಥ್ಯವನ್ನು ಒದಗಿಸುತ್ತಾರೆ.

2023 ರ ಬ್ಲೂಮ್‌ಬರ್ಗ್ ವರದಿಯ ಪ್ರಕಾರ, ಈ ವೀಡಿಯೊಗಳಲ್ಲಿ ಹೆಚ್ಚಿನವು ತ್ವರಿತ Google ಹುಡುಕಾಟದ ಮೂಲಕ ಲಭ್ಯವಿವೆ, ಇದು ಡೀಪ್‌ಫೇಕ್ ವೆಬ್‌ಸೈಟ್‌ಗಳಿಗೆ ಪ್ರಾಥಮಿಕ ಟ್ರಾಫಿಕ್ ಡ್ರೈವರ್ ಆಗಿದೆ. ಡೀಪ್‌ಫೇಕ್ ವಿಷಯವನ್ನು ತೆಗೆದುಹಾಕಲು ವಿನಂತಿಸಲು ಬಲಿಪಶುಗಳಿಗೆ Google ಒಂದು ಫಾರ್ಮ್ ಅನ್ನು ಒದಗಿಸಿದರೆ, ಈ ಪ್ರಕ್ರಿಯೆಯು ವ್ಯಾಕ್-ಎ-ಮೋಲ್ ಆಟವನ್ನು ಹೋಲುತ್ತದೆ ಎಂದು ಹಲವರು ದೂರುತ್ತಾರೆ. ಕಳೆದ ವರ್ಷ ಬ್ಲೂಮ್‌ಬರ್ಗ್‌ನ ವರದಿಯ ಸಮಯದಲ್ಲಿ, ಗೂಗಲ್ ವಕ್ತಾರರು ಆಲ್ಫಾಬೆಟ್ ಇಂಕ್. ಅನಿರೀಕ್ಷಿತ ಹಾನಿಕಾರಕ ಅಥವಾ ಸ್ಪಷ್ಟವಾದ ವಿಷಯವನ್ನು ಅವರು ನೋಡಲು ಬಯಸದಿರುವ ಜನರನ್ನು ಆಘಾತಗೊಳಿಸುವುದನ್ನು ತಪ್ಪಿಸಲು ಕಂಪನಿಯು ತನ್ನ ಹುಡುಕಾಟ ಶ್ರೇಯಾಂಕ ವ್ಯವಸ್ಥೆಯನ್ನು ವಿನ್ಯಾಸಗೊಳಿಸುತ್ತದೆ.

ಟಾಪ್ ಡೀಪ್‌ಫೇಕ್ ಸೈಟ್ Mr Deepfakes.com ನಲ್ಲಿ ಸ್ವಿಫ್ಟ್ ಅನ್ನು ಉಲ್ಲೇಖಿಸುವ ಸುಮಾರು 500 ವೀಡಿಯೊಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಲಾಗಿದೆ. ಇದೇ ರೀತಿಯ ವೆಬ್ ಡೇಟಾದ ಪ್ರಕಾರ, ಸೈಟ್ ಡಿಸೆಂಬರ್‌ನಲ್ಲಿ 12.3 ಮಿಲಿಯನ್ ಭೇಟಿಗಳನ್ನು ಸ್ವೀಕರಿಸಿದೆ.

ಮಹಿಳೆಯರನ್ನು ಗುರಿಯಾಗಿಸಿಕೊಂಡು

ಅಜ್ದರ್ ಹೇಳಿದರು, “ಈ ಪ್ರಕರಣವು ಭಯಾನಕವಾಗಿದೆ ಮತ್ತು ಸ್ವಿಫ್ಟ್‌ಗೆ ಅತ್ಯಂತ ಅಸಮಾಧಾನವಾಗಿದೆ, ಆದರೆ ದುಃಖಕರವೆಂದರೆ ಇದು ಕೆಲವರು ಯೋಚಿಸುವಷ್ಟು ಕ್ರಾಂತಿಕಾರಿ ಅಲ್ಲ.” “ಈಗ ಈ ವಿಷಯವನ್ನು ರಚಿಸುವ ಸುಲಭತೆಯು ಮಹಿಳೆಯರು ಮತ್ತು ಹುಡುಗಿಯರು ಪ್ರಪಂಚದಲ್ಲಿ ಅಥವಾ ಅವರ ಸಾಮಾಜಿಕ ಸ್ಥಾನಮಾನದಲ್ಲಿ ಎಲ್ಲೇ ಇದ್ದರೂ ತೊಂದರೆಯನ್ನುಂಟುಮಾಡುತ್ತದೆ ಮತ್ತು ಪರಿಣಾಮ ಬೀರುತ್ತದೆ.”

ಶುಕ್ರವಾರ ಮಧ್ಯಾಹ್ನದ ಹೊತ್ತಿಗೆ, ಸ್ವಿಫ್ಟ್‌ನ ಸ್ಪಷ್ಟವಾದ AI- ರಚಿತ ಚಿತ್ರಗಳು ಇನ್ನೂ X ನಲ್ಲಿವೆ. ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ನ ವಕ್ತಾರರು ಕಂಪನಿಯ ಪ್ರಸ್ತುತ ಹೇಳಿಕೆಗೆ ಬ್ಲೂಮ್‌ಬರ್ಗ್ ಅನ್ನು ಉಲ್ಲೇಖಿಸಿದ್ದಾರೆ, ಇದು ಒಪ್ಪಿಗೆಯಿಲ್ಲದ ನಗ್ನತೆಯು ಅದರ ನೀತಿಗೆ ವಿರುದ್ಧವಾಗಿದೆ ಮತ್ತು ವೇದಿಕೆಯು ಅಂತಹ ಚಿತ್ರಗಳನ್ನು ತೆಗೆದುಹಾಕಲು ಸಕ್ರಿಯವಾಗಿ ಪ್ರಯತ್ನಿಸುತ್ತಿದೆ ಎಂದು ಹೇಳಿದರು. ,

ಜನಪ್ರಿಯ AI ಇಮೇಜ್-ಮೇಕರ್ MidJourney ಯ ಬಳಕೆದಾರರು ಈಗಾಗಲೇ ಮಿಡ್‌ಜರ್ನಿ ಡಿಸ್ಕಾರ್ಡ್ ಚಾನೆಲ್‌ನಿಂದ ವಿಮರ್ಶಿಸಿದಂತೆ ಹೆಚ್ಚು ಸ್ಪಷ್ಟವಾದ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು AI ನೊಂದಿಗೆ ಬಳಸಬಹುದಾದ ಲಿಖಿತ ಪ್ರಾಂಪ್ಟ್‌ಗಳೊಂದಿಗೆ ಬರಲು ಸ್ವಿಫ್ಟ್‌ನ ಕನಿಷ್ಠ ಒಂದು ಸಿಮ್ಯುಲೇಟೆಡ್ ದೃಶ್ಯದ ಲಾಭವನ್ನು ಪಡೆದುಕೊಳ್ಳುತ್ತಿದ್ದಾರೆ. ಬ್ಲೂಮ್‌ಬರ್ಗ್. MidJourney ಒಂದು ವೈಶಿಷ್ಟ್ಯವನ್ನು ಹೊಂದಿದೆ, ಇದರಲ್ಲಿ ಜನರು ಅದರ ಡಿಸ್ಕಾರ್ಡ್ ಚಾಟ್ ಚಾನಲ್‌ಗೆ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಚಿತ್ರವನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಬಹುದು – ಅಲ್ಲಿ ಏನು ಸೆಳೆಯಬೇಕು ಎಂಬುದನ್ನು ತಂತ್ರಜ್ಞಾನಕ್ಕೆ ತಿಳಿಸಲು ಇನ್‌ಪುಟ್‌ಗಳನ್ನು ಕೇಳಲಾಗುತ್ತದೆ – ಮತ್ತು ಇದು ಮಿಡ್‌ಜರ್ನಿಯಲ್ಲಿ ಬಳಸಬಹುದಾದ ಪಠ್ಯವನ್ನು ರಚಿಸುತ್ತದೆ ಅಥವಾ ಇನ್ನೊಂದು ಮಾಧ್ಯಮವನ್ನು ಬಳಸಬಹುದಾಗಿದೆ ಅದರಂತೆಯೇ ಇನ್ನೊಂದು ಚಿತ್ರವನ್ನು ರಚಿಸಿ. ಸೇವೆ.

ಮಿಡ್‌ಜರ್ನಿಯ ಡಿಸ್ಕಾರ್ಡ್ ಸರ್ವರ್‌ನ 18 ಮಿಲಿಯನ್‌ಗಿಂತಲೂ ಹೆಚ್ಚು ಸದಸ್ಯರಲ್ಲಿ ಯಾರಿಗಾದರೂ ಆ ವೈಶಿಷ್ಟ್ಯದ ಔಟ್‌ಪುಟ್ ಸಾರ್ವಜನಿಕ ಚಾನಲ್‌ನಲ್ಲಿದೆ, AI- ರಚಿತವಾದ ಅಶ್ಲೀಲ ಚಿತ್ರಣವನ್ನು ಸರಿಪಡಿಸಲು ಅವರಿಗೆ ಸಮಾನವಾದ ಸಲಹೆಗಳು ಮತ್ತು ತಂತ್ರಗಳನ್ನು ನೀಡುತ್ತದೆ. ಶುಕ್ರವಾರ ಮಧ್ಯಾಹ್ನ ಸುಮಾರು 20 ಲಕ್ಷ ಜನರು ಸರ್ವರ್‌ನಲ್ಲಿ ಸಕ್ರಿಯರಾಗಿದ್ದರು.

ಮಿಡ್‌ಜರ್ನಿ ಮತ್ತು ಡಿಸ್ಕಾರ್ಡ್ ಕಾಮೆಂಟ್‌ಗಾಗಿ ವಿನಂತಿಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸಲಿಲ್ಲ.

ಬೆಳೆಯುತ್ತಿರುವ ಸಂಖ್ಯೆ

ಸ್ವತಂತ್ರ ವಿಶ್ಲೇಷಕ ಜಿನೆವೀವ್ ಓಹ್ ಅವರ ಸಂಶೋಧನೆಯ ಪ್ರಕಾರ, AI ಉತ್ಕರ್ಷದ ಮಧ್ಯೆ, ಹೊಸ ಅಶ್ಲೀಲ ಡೀಪ್‌ಫೇಕ್ ವೀಡಿಯೊಗಳ ಸಂಖ್ಯೆಯು ಈಗಾಗಲೇ 2020 ರಿಂದ ಒಂಬತ್ತು ಪಟ್ಟು ಹೆಚ್ಚಾಗಿದೆ. ಕಳೆದ ವರ್ಷದ ಕೊನೆಯಲ್ಲಿ, ಈ ವಿಷಯವನ್ನು ಒದಗಿಸುವ ಟಾಪ್ 10 ಸೈಟ್‌ಗಳು 114,000 ವೀಡಿಯೊಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡಿವೆ, ಅದರಲ್ಲಿ ಸ್ವಿಫ್ಟ್ ಈಗಾಗಲೇ ಸಾಮಾನ್ಯ ಗುರಿಯಾಗಿದೆ.

ಸೈಬರ್ ಶಿಕ್ಷಣ ಸಂಸ್ಥೆ SANS ಇನ್‌ಸ್ಟಿಟ್ಯೂಟ್‌ಗಾಗಿ ಪಠ್ಯಕ್ರಮವನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದ ಡಿಜಿಟಲ್ ಫೋರೆನ್ಸಿಕ್ಸ್ ತಜ್ಞ ಹೀದರ್ ಮಹಾಲಿಕ್ ಬಾರ್ನ್‌ಹಾರ್ಟ್, “ಅದು AI ಅಥವಾ ನಿಜವಾಗಿದ್ದರೂ, ಅದು ಇನ್ನೂ ಜನರಿಗೆ ನೋವುಂಟು ಮಾಡುತ್ತದೆ” ಎಂದು ಹೇಳಿದರು. ಸ್ವಿಫ್ಟ್ ಬರೆದ ಚಿತ್ರಗಳೊಂದಿಗೆ, “ಇದು ನಕಲಿಯಾಗಿದ್ದರೂ, ಅದನ್ನು ನೋಡಬೇಕಾದ ಅವಳ ಹೆತ್ತವರ ಮನಸ್ಸನ್ನು ಊಹಿಸಿ – ನಿಮಗೆ ತಿಳಿದಿದೆ, ನೀವು ಏನನ್ನಾದರೂ ನೋಡಿದಾಗ, ನೀವು ಅದನ್ನು ತಿರುಗಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ.”

ಸ್ವಿಫ್ಟ್ ಅವರ ಫೋಟೋಗಳು ಕೋಲಾಹಲವನ್ನು ಉಂಟುಮಾಡುವ ಕೆಲವೇ ದಿನಗಳ ಮೊದಲು, ನ್ಯೂ ಹ್ಯಾಂಪ್‌ಶೈರ್ ಅಧ್ಯಕ್ಷೀಯ ಪ್ರಾಥಮಿಕಕ್ಕಿಂತ ಮುಂಚಿತವಾಗಿ ಬಿಡೆನ್‌ನಿಂದ ಡೀಪ್‌ಫೇಕ್ ಆಡಿಯೊ ಸಂದೇಶವನ್ನು ಹರಡಲಾಯಿತು. ಪ್ರೈಮರಿಗಳನ್ನು ಬಿಟ್ಟುಬಿಡುವಂತೆ ಮತದಾರರಿಗೆ ಜೋ ಬಿಡೆನ್ ಹೇಳುತ್ತಿರುವಂತೆ ತೋರುವ ರೋಬೋಕಾಲ್ ಅವರು ಕೇಳಿದ ಅತ್ಯಂತ ಅಪಾಯಕಾರಿ ಡೀಪ್‌ಫೇಕ್ ಆಡಿಯೊ ಎಂದು ಜಾಗತಿಕ ತಪ್ಪು ಮಾಹಿತಿ ತಜ್ಞರು ಹೇಳಿದ್ದಾರೆ.

ಮುಂಬರುವ ಚುನಾವಣೆಗಳಲ್ಲಿ ಡೀಪ್‌ಫೇಕ್ ಆಡಿಯೋ ಅಥವಾ ವಿಡಿಯೋ ಪಾತ್ರವನ್ನು ವಹಿಸಬಹುದೆಂಬ ಕಳವಳಗಳು ಈಗಾಗಲೇ ಇವೆ, ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮದಲ್ಲಿ ವಿಷಯಗಳು ಎಷ್ಟು ಬೇಗನೆ ಹರಡುತ್ತವೆ ಎಂಬುದಕ್ಕೆ ಉತ್ತೇಜನ ನೀಡಲಾಗಿದೆ. ನಕಲಿ ಬಿಡೆನ್ ಸಂದೇಶವನ್ನು ನೇರವಾಗಿ ಜನರ ಟೆಲಿಫೋನ್‌ಗಳಿಗೆ ಡಯಲ್ ಮಾಡಲಾಯಿತು, ಆಶಾವಾದಿಗಳಿಗೆ ಕರೆಗಳನ್ನು ತನಿಖೆ ಮಾಡಲು ಕಡಿಮೆ ಮಾರ್ಗವನ್ನು ಬಿಟ್ಟಿತು.

“ನ್ಯೂ ಹ್ಯಾಂಪ್‌ಶೈರ್ ಪ್ರಾಥಮಿಕವು ನಾವು ಎದುರಿಸಬೇಕಾದ ಪರಿಸ್ಥಿತಿಯ ಮೊದಲ ರುಚಿಯನ್ನು ನಮಗೆ ನೀಡುತ್ತದೆ” ಎಂದು ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಮತ್ತು ಡಿಜಿಟಲ್ ಮೀಡಿಯಾ ಫೋರೆನ್ಸಿಕ್ಸ್‌ನಲ್ಲಿ ಪರಿಣತಿ ಹೊಂದಿರುವ ಬಫಲೋ ವಿಶ್ವವಿದ್ಯಾಲಯದ ಪ್ರಾಧ್ಯಾಪಕ ಸಿವೀ ಲು ಹೇಳಿದರು.

ಲೆಕ್ಕಾಚಾರ ಕಷ್ಟ

ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮದಲ್ಲಿಯೂ ಸಹ, ಪ್ರಸ್ತುತ ಯಾವುದೇ ವಿಶ್ವಾಸಾರ್ಹ ಪತ್ತೆ ಸಾಮರ್ಥ್ಯಗಳಿಲ್ಲ, ಇದು ನಿರಾಶಾದಾಯಕವಾಗಿ ಸುತ್ತುವ ಪ್ರಕ್ರಿಯೆಯನ್ನು ಬಿಟ್ಟುಬಿಡುತ್ತದೆ, ಅದು ವ್ಯಕ್ತಿಯು ವಿಷಯವನ್ನು ನೋಡುವ ಮತ್ತು ಅನುಮಾನಿಸುವಷ್ಟು ಅನುಮಾನಾಸ್ಪದವಾಗಿರುವುದನ್ನು ದೃಢೀಕರಿಸಲು ಮೂಲಕ್ಕೆ ಹೋಗುವುದನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ. ಇದು ಬಹುಶಃ ಸ್ಥಳೀಯ ಅಧಿಕಾರಿ ಅಥವಾ ಖಾಸಗಿ ನಾಗರಿಕರಿಗಿಂತ ಸ್ವಿಫ್ಟ್ ಅಥವಾ ಬಿಡೆನ್‌ನಂತಹ ಪ್ರಮುಖ ಸಾರ್ವಜನಿಕ ವ್ಯಕ್ತಿಗೆ ಹೆಚ್ಚು ಸಂಭವನೀಯ ಸನ್ನಿವೇಶವಾಗಿದೆ. ಕಂಪನಿಗಳು ಈ ವೀಡಿಯೊಗಳನ್ನು ಗುರುತಿಸಿ ತೆಗೆದುಹಾಕಿದರೂ, ಅವು ಎಷ್ಟು ವೇಗವಾಗಿ ಹರಡುತ್ತವೆ ಎಂದರೆ ಅನೇಕ ಬಾರಿ ಹಾನಿಯಾಗುತ್ತದೆ.

ಅಕ್ಟೋಬರ್ 7 ರಂದು ಇಸ್ರೇಲ್ ಮೇಲಿನ ಭಯೋತ್ಪಾದಕ ದಾಳಿಯ ಬಲಿಪಶುವಾದ ಶನಿ ಲೌಕ್ ಅವರ ವೈರಲ್ ಡೀಪ್‌ಫೇಕ್ ವೀಡಿಯೊವನ್ನು ಬೈಟ್‌ಡ್ಯಾನ್ಸ್ ಲಿಮಿಟೆಡ್‌ನ ಟಿಕ್‌ಟಾಕ್ ಅಪ್ಲಿಕೇಶನ್‌ನಲ್ಲಿ 7.5 ಮಿಲಿಯನ್ ಬಾರಿ ವೀಕ್ಷಿಸಲಾಗಿದೆ, ಇದನ್ನು ಮೂರು ತಿಂಗಳ ಹಿಂದೆ ಪೋಸ್ಟ್ ಮಾಡಲಾಗಿದೆ, ಅದು ಬ್ಲೂಮ್‌ಬರ್ಗ್ ನಂತರವೂ ಆಗಿದೆ. ಮಕ್ಕಳನ್ನು ಒಳಗೊಂಡಂತೆ ಸತ್ತ ಬಲಿಪಶುಗಳ AI- ರಚಿತ ವೀಡಿಯೊಗಳನ್ನು ಪೋಲೀಸ್‌ಗೆ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ನ ಹೋರಾಟದ ಕುರಿತು ಡಿಸೆಂಬರ್ ಕಥೆಯಲ್ಲಿ ಕಂಪನಿಗಾಗಿ ಇದನ್ನು ಪ್ರತ್ಯೇಕಿಸಿದೆ.

ವೀಡಿಯೊ-ಹಂಚಿಕೆ ಅಪ್ಲಿಕೇಶನ್ ಖಾಸಗಿ ನಾಗರಿಕರು ಅಥವಾ ಮಕ್ಕಳನ್ನು ಒಳಗೊಂಡಿರುವ AI- ರಚಿತವಾದ ವಿಷಯವನ್ನು ನಿಷೇಧಿಸಿದೆ ಮತ್ತು “ಘೋರ” ಅಥವಾ “ಅಡಚಣೆ” ವೀಡಿಯೊಗಳನ್ನು ಸಹ ಅನುಮತಿಸಲಾಗುವುದಿಲ್ಲ ಎಂದು ಹೇಳಿದೆ. ಈ ವಾರದಷ್ಟು ಇತ್ತೀಚೆಗೆ, ಸತ್ತ ಮಕ್ಕಳ ನಿಂದನೆ ಮತ್ತು ಸಾವಿನ ವಿವರಗಳನ್ನು ವಿವರಿಸುವ ಡೀಪ್‌ಫೇಕ್ ವೀಡಿಯೊಗಳು ಇನ್ನೂ ಬಳಕೆದಾರರ ಫೀಡ್‌ಗಳಲ್ಲಿ ಕಾಣಿಸಿಕೊಳ್ಳುತ್ತಿವೆ ಮತ್ತು ಸಾವಿರಾರು ವೀಕ್ಷಣೆಗಳನ್ನು ಪಡೆಯುತ್ತಿವೆ. ಕಾಮೆಂಟ್‌ಗಾಗಿ ಬ್ಲೂಮ್‌ಬರ್ಗ್‌ಗೆ ಕಳುಹಿಸಲಾದ ವೀಡಿಯೊಗಳನ್ನು TikTok ತೆಗೆದುಹಾಕಿದೆ. ಶುಕ್ರವಾರದವರೆಗೆ, ಅಂತಹ ಗೊಂದಲದ ನಕಲಿ ವಿಷಯವನ್ನು ನಿರ್ದಿಷ್ಟವಾಗಿ ಪೋಸ್ಟ್ ಮಾಡುವ ಡಜನ್ಗಟ್ಟಲೆ ವೀಡಿಯೊಗಳು ಮತ್ತು ಖಾತೆಗಳು ಇನ್ನೂ ಲೈವ್ ಆಗಿವೆ.

ಟಿಕ್‌ಟಾಕ್ ಪತ್ತೆ ತಂತ್ರಜ್ಞಾನಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡುತ್ತಿದೆ ಮತ್ತು AI- ರಚಿತವಾದ ವಿಷಯದ ಅಪಾಯಗಳ ಬಗ್ಗೆ ಬಳಕೆದಾರರಿಗೆ ತಿಳಿಸಲು ಕೆಲಸ ಮಾಡುತ್ತಿದೆ ಎಂದು ಹೇಳಿದೆ. ಇತರ ಸಾಮಾಜಿಕ ಜಾಲತಾಣಗಳು ಸಹ ಇದೇ ರೀತಿಯ ಭಾವನೆಗಳನ್ನು ವ್ಯಕ್ತಪಡಿಸಿವೆ.

“ನೀವು ಯಾವುದನ್ನಾದರೂ ಪ್ರತಿಕ್ರಿಯಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ, ನೀವು ಯಾವುದನ್ನಾದರೂ ಪ್ರತಿಕ್ರಿಯಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ – ಯಾವುದನ್ನಾದರೂ ನಿಯಂತ್ರಿಸಲು ಬಿಡಿ” ಎಂದು ಫೇಸ್‌ಬುಕ್ ಮತ್ತು ಇನ್‌ಸ್ಟಾಗ್ರಾಮ್ ಅನ್ನು ಹೊಂದಿರುವ ಮೆಟಾ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಇಂಕ್‌ನ ಸಾರ್ವಜನಿಕ ವ್ಯವಹಾರಗಳ ಅಧ್ಯಕ್ಷ ನಿಕ್ ಕ್ಲೆಗ್ ಹೇಳಿದರು. -ನೀವು ಲೆಕ್ಕಾಚಾರ ಮಾಡಲು ಸಾಧ್ಯವಾಗದಿದ್ದರೆ ಅದನ್ನು ಮೊದಲು ಹೊರಹಾಕಿ.” ಈ ತಿಂಗಳ ಆರಂಭದಲ್ಲಿ ಸ್ವಿಟ್ಜರ್ಲೆಂಡ್‌ನ ದಾವೋಸ್‌ನಲ್ಲಿ ನಡೆದ ವಿಶ್ವ ಆರ್ಥಿಕ ವೇದಿಕೆಯಲ್ಲಿ.

ಕೆಲವು ಕಾನೂನುಗಳು

ಅಶ್ಲೀಲ ಸ್ವರೂಪವನ್ನು ಒಳಗೊಂಡಂತೆ ಡೀಪ್‌ಫೇಕ್‌ಗಳನ್ನು ನಿಷೇಧಿಸುವ ಯಾವುದೇ US ಫೆಡರಲ್ ಕಾನೂನು ಪ್ರಸ್ತುತ ಇಲ್ಲ. ಕೆಲವು ರಾಜ್ಯಗಳು ಡೀಪ್‌ಫೇಕ್ ಅಶ್ಲೀಲತೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ಕಾನೂನುಗಳನ್ನು ಜಾರಿಗೊಳಿಸಿವೆ, ಆದರೆ ಅವರ ಅಪ್ಲಿಕೇಶನ್ ದೇಶಾದ್ಯಂತ ಅಸಮಂಜಸವಾಗಿದೆ, ಇದರಿಂದಾಗಿ ಸಂತ್ರಸ್ತರಿಗೆ ರಚನೆಕಾರರನ್ನು ಹೊಣೆಗಾರರನ್ನಾಗಿ ಮಾಡುವುದು ಕಷ್ಟಕರವಾಗಿದೆ.

ಶ್ವೇತಭವನದ ಪತ್ರಿಕಾ ಕಾರ್ಯದರ್ಶಿ ಜೀನ್-ಪಿಯರ್ ಶುಕ್ರವಾರ, ಆಡಳಿತವು AI ಕಂಪನಿಗಳೊಂದಿಗೆ ಏಕಪಕ್ಷೀಯ ಪ್ರಯತ್ನಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ ಎಂದು ಶುಕ್ರವಾರ ಹೇಳಿದ್ದಾರೆ, ಅದು ನಕಲಿ ಚಿತ್ರಗಳನ್ನು ಸುಲಭವಾಗಿ ಗುರುತಿಸಲು ವಾಟರ್‌ಮಾರ್ಕ್‌ಗಳನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ. ಆನ್‌ಲೈನ್ ಕಿರುಕುಳ ಮತ್ತು ನಿಂದನೆಯನ್ನು ಪರಿಹರಿಸಲು ಬಿಡೆನ್ ಕಾರ್ಯಪಡೆಯನ್ನು ಸಹ ನೇಮಿಸಿದ್ದಾರೆ, ಆದರೆ ಯುಎಸ್ ನ್ಯಾಯ ಇಲಾಖೆಯು ಚಿತ್ರ ಆಧಾರಿತ ಲೈಂಗಿಕ ಶೋಷಣೆಯ ಬಲಿಪಶುಗಳಿಗಾಗಿ ಹಾಟ್‌ಲೈನ್ ಅನ್ನು ರಚಿಸಿದೆ.

ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ AI ಬಳಕೆಯಿಂದ ಸೆಲೆಬ್ರಿಟಿಗಳು ಮತ್ತು ಕಲಾವಿದರ ಧ್ವನಿಯನ್ನು ರಕ್ಷಿಸಲು ಕಾಂಗ್ರೆಸ್ ಶಾಸಕಾಂಗ ಕ್ರಮಗಳನ್ನು ಚರ್ಚಿಸಲು ಪ್ರಾರಂಭಿಸಿದೆ. ಖಾಸಗಿ ನಾಗರಿಕರಿಗೆ ಯಾವುದೇ ರಕ್ಷಣೆ ಆ ಸಂಭಾಷಣೆಗಳಿಂದ ಇರುವುದಿಲ್ಲ.

ಈ ವಿಷಯದ ಬಗ್ಗೆ ಸ್ವಿಫ್ಟ್ ಯಾವುದೇ ಸಾರ್ವಜನಿಕ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ನೀಡಿಲ್ಲ, ಅವರು ಕಾನೂನು ಕ್ರಮ ಕೈಗೊಳ್ಳುತ್ತಾರೆಯೇ ಎಂಬುದು ಸೇರಿದಂತೆ. ಅವಳು ಹಾಗೆ ಮಾಡಲು ಆಯ್ಕೆ ಮಾಡಿದರೆ, ಅವಳು ಆ ರೀತಿಯ ಸವಾಲನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಸ್ಥಿತಿಯಲ್ಲಿರಬಹುದು, ಮಾನವ ಹಕ್ಕುಗಳ ಉಲ್ಲಂಘನೆಯನ್ನು ಬಹಿರಂಗಪಡಿಸಲು ನೈತಿಕ ತಂತ್ರಜ್ಞಾನವನ್ನು ಬಳಸುವ ಲಾಭೋದ್ದೇಶವಿಲ್ಲದ ವಿಟ್ನೆಸ್‌ನ ಕಾರ್ಯನಿರ್ವಾಹಕ ನಿರ್ದೇಶಕ ಸ್ಯಾಮ್ ಗ್ರೆಗೊರಿ ಹೇಳಿದರು.

“ಫೆಡರಲ್ ಶಾಸನದ ಅನುಪಸ್ಥಿತಿಯಲ್ಲಿ, ಯಶಸ್ಸಿನ ಸಾಧ್ಯತೆಗಳು ಅಲ್ಪಾವಧಿಯದ್ದಾಗಿರಲಿ ಅಥವಾ ದೀರ್ಘಾವಧಿಯದ್ದಾಗಿರಲಿ – ತನ್ನ ಪ್ರಕರಣವನ್ನು ಮಾಡಲು ಲಭ್ಯವಿರುವ ಎಲ್ಲಾ ವಿಧಾನಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಮುಂದುವರಿಯುವ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಇಚ್ಛೆಯನ್ನು ಹೊಂದಿರುವ ಸ್ವಿಫ್ಟ್‌ನಂತಹ ಫಿರ್ಯಾದಿಯನ್ನು ಹೊಂದಿರುವುದು ಮುಂದಿನ ಹಂತವಾಗಿದೆ, ” ಗ್ರೆಗೊರಿ ಹೇಳಿದರು.

(ಶೀರ್ಷಿಕೆಯನ್ನು ಹೊರತುಪಡಿಸಿ, ಈ ಕಥೆಯನ್ನು NDTV ಸಿಬ್ಬಂದಿ ಸಂಪಾದಿಸಿಲ್ಲ ಮತ್ತು ಸಿಂಡಿಕೇಟೆಡ್ ಫೀಡ್‌ನಿಂದ ಪ್ರಕಟಿಸಲಾಗಿದೆ.)