ಸೆಪ್ಟೆಂಬರ್ 28: ಆಂಥ್ರೊಪಿಕ್ ತನ್ನ IPO ನಲ್ಲಿ ಸಂಭಾವ್ಯ ಹೂಡಿಕೆದಾರರನ್ನು ಎಚ್ಚರಿಸಲು ಯೋಜಿಸಿದೆ, ಮುಂದುವರಿದ AI “ಮಾನವೀಯತೆಗೆ ದುರಂತ ಅಥವಾ ಅಸ್ತಿತ್ವವಾದದ ಬೆದರಿಕೆಯನ್ನು” ಉಂಟುಮಾಡಬಹುದು, ಅದೇ ತಂತ್ರಜ್ಞಾನದಿಂದ ಲಾಭ ಪಡೆಯಲು ಬಯಸುವ ಕಂಪನಿಯಿಂದ ಅಸಾಧಾರಣ ಎಚ್ಚರಿಕೆ.
ಕಂಪನಿಯ IPO ಪ್ರಾಸ್ಪೆಕ್ಟಸ್, ರಾಯಿಟರ್ಸ್ನಿಂದ ಪರಿಶೀಲಿಸಲ್ಪಟ್ಟಿದೆ, ಅದರ AI ಮಾದರಿಗಳೊಂದಿಗೆ ಸಂಬಂಧಿಸಿದ ಅಪಾಯಗಳನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ, ಇದು “ಸ್ವಯಂ-ರಕ್ಷಣಾತ್ಮಕ ನಡವಳಿಕೆಗಳನ್ನು” ಪ್ರದರ್ಶಿಸಬಹುದು, “ಮೌನವನ್ನು ಪ್ರತಿರೋಧಿಸುವ” “ಮಾಹಿತಿ ಮರೆಮಾಡಲು ಅಥವಾ ಸಂಪಾದಿಸಲು” ಮತ್ತು “ಬ್ಲಾಕ್ಮೇಲ್” ತರಹದ ನಡವಳಿಕೆಯನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ.
“ನಮ್ಮ ಹೆಚ್ಚು ಸುಧಾರಿತ ಮಾದರಿಗಳು, ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಮತ್ತು ಅಪ್ಲಿಕೇಶನ್ಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವುದು ಮತ್ತು ಬಳಕೆಯ ಪ್ರಕರಣಗಳನ್ನು ವಿಸ್ತರಿಸುವುದರಿಂದ ನಮ್ಮ ಮಾದರಿಗಳಿಗೆ ಹಾನಿಯಾಗುವ ಅಪಾಯವನ್ನು ಇನ್ನಷ್ಟು ಹೆಚ್ಚಿಸಬಹುದು” ಎಂದು ಆಂಥ್ರೊಪಿಕ್ ಫೈಲಿಂಗ್ನಲ್ಲಿ ಹೇಳಿದೆ.
ಸಾರ್ವಜನಿಕ ಕಂಪನಿಗಳು ನಿಯಮಿತವಾಗಿ ಹೂಡಿಕೆದಾರರಿಗೆ ತಮ್ಮ ಉತ್ಪನ್ನಗಳ ಅಪಾಯಗಳನ್ನು ವಿವರಿಸುತ್ತದೆ, ಹಲವಾರು ಕಂಪನಿಗಳು ತಮ್ಮ ತಂತ್ರಜ್ಞಾನವು ಸಂಭಾವ್ಯ ಮಾನವ ಅಳಿವಿಗೆ ಕಾರಣವಾಗಬಹುದು ಎಂದು ಎಚ್ಚರಿಸಿದ್ದಾರೆ. ಆಂಥ್ರೊಪಿಕ್ ಕೈಗಾರಿಕೀಕರಣ ಮತ್ತು ಶಕ್ತಿಯ ಜೊತೆಗೆ AI ಯ ಪರಿವರ್ತಕ ಸಾಮರ್ಥ್ಯವನ್ನು ಮತ್ತು ದುರುಪಯೋಗಪಡಿಸಿಕೊಂಡರೆ ಅದು ಮಾಡಬಹುದಾದ ಬದಲಾಯಿಸಲಾಗದ ಹಾನಿ ಎರಡನ್ನೂ ಎತ್ತಿ ತೋರಿಸಿದೆ.
ಆಸ್ಟ್ರೇಲಿಯನ್ ಹೆಲ್ತ್ ಸಿಸ್ಟಮ್ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಉಲ್ಲಂಘಿಸುವ OpenAI ಮಾದರಿಯ ವರದಿಯನ್ನು ಒಳಗೊಂಡಂತೆ ಪ್ರಾಯೋಗಿಕ ವ್ಯವಸ್ಥೆಗಳು ಮಿತಿಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿದ ಘಟನೆಗಳ ನಂತರ OpenAI ಸೇರಿದಂತೆ ಆಂಥ್ರೊಪಿಕ್ ಮತ್ತು ಇತರ AI ಡೆವಲಪರ್ಗಳು ಪರಿಶೀಲನೆಗೆ ಒಳಪಟ್ಟಿದ್ದಾರೆ.
ಆಂಥ್ರೊಪಿಕ್ ಸೆಕ್ಯುರಿಟಿ ಸಂಶೋಧಕ ಇವಾನ್ ಹುಬಿಂಗರ್ ಅವರು ಮುಂದಿನ ದಶಕದಲ್ಲಿ AI ಮಾನವರನ್ನು ಕೊಲ್ಲುವ 10% ಕ್ಕಿಂತ ಹೆಚ್ಚು ಅವಕಾಶವಿದೆ ಎಂದು ಹೇಳುತ್ತಾರೆ, ಇದು ಮಾಜಿ ಸಹೋದ್ಯೋಗಿ ಜಾಕೋಬ್ ಕಾಕ್ಸನ್ ಅವರ ಅಭಿಪ್ರಾಯವನ್ನು ಪ್ರತಿಧ್ವನಿಸುತ್ತದೆ.
ಗಂಭೀರ ಅಪಾಯದ ಬಹಿರಂಗಪಡಿಸುವಿಕೆ
ಕಂಪನಿಯು ತನ್ನನ್ನು ಒಂದು ಪ್ರಧಾನ AI ಲ್ಯಾಬ್ ಎಂದು ಗುರುತಿಸಿಕೊಂಡಿದೆ, ಅಪಾಯದ ಅಂಶಗಳನ್ನು ಗುರುತಿಸಲು ಅದರ 261-ಪುಟ ಪ್ರಾಸ್ಪೆಕ್ಟಸ್ನ ಸುಮಾರು 80 ಪುಟಗಳನ್ನು ಮೀಸಲಿಟ್ಟಿದೆ, ಇದು ತನ್ನ ವ್ಯವಹಾರವನ್ನು ವಿವರಿಸಲು ಬಳಸಿದ 48 ಪುಟಗಳಿಗಿಂತ ದ್ವಿಗುಣವಾಗಿದೆ.
ಹೋಲಿಸಿದರೆ, xAI ಅನ್ನು ಹೊಂದಿರುವ SpaceX, ಅದರ 277-ಪುಟದ ಪ್ರಾಸ್ಪೆಕ್ಟಸ್ನಲ್ಲಿ ಸುಮಾರು 38 ಪ್ರತಿಶತವನ್ನು ಅಪಾಯಕಾರಿ ಅಂಶಗಳಿಗೆ ಮೀಸಲಿಡುತ್ತದೆ.
“ನಮ್ಮ ಮೌಲ್ಯಮಾಪನ ಪ್ರಯತ್ನಗಳ ಸಂಭಾವ್ಯ ಮಾದರಿಯ ಅರಿವು ಮಾದರಿಯ ಸುರಕ್ಷತೆಯನ್ನು ನಿರ್ಣಯಿಸುವ ನಮ್ಮ ಸಾಮರ್ಥ್ಯಕ್ಕೆ ಗಮನಾರ್ಹ ಮಿತಿಯನ್ನು ಒಡ್ಡುತ್ತದೆ” ಎಂದು ಆಂಥ್ರೊಪಿಕ್ ಪ್ರಾಸ್ಪೆಕ್ಟಸ್ನಲ್ಲಿ ಹೇಳಿದೆ, ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಮಾದರಿಗಳು ಕೆಲವೊಮ್ಮೆ ಅನಿರೀಕ್ಷಿತ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುತ್ತವೆ, ಇದು ನಿಯೋಜನೆಯವರೆಗೂ ಕಂಡುಹಿಡಿಯಲಾಗುವುದಿಲ್ಲ, ಇದು ಗಂಭೀರ ಸುರಕ್ಷತಾ ಘಟನೆಗಳಿಗೆ ಕಾರಣವಾಗುತ್ತದೆ.
ಮಾಡೆಲ್ಗಳು ಹೆಚ್ಚು ಸಮರ್ಥವಾಗುತ್ತಿದ್ದಂತೆ, ಅವರು ಏನು ವೀಕ್ಷಿಸುತ್ತಿದ್ದಾರೆ ಎಂಬುದರ ಬಗ್ಗೆ ಹೆಚ್ಚು ಅರಿವು ಮೂಡಿಸುತ್ತಾರೆ ಮತ್ತು ಅದಕ್ಕೆ ಅನುಗುಣವಾಗಿ ತಮ್ಮ ನಡವಳಿಕೆಯನ್ನು ಸರಿಹೊಂದಿಸುತ್ತಾರೆ, ಮಾದರಿಯ ನಡವಳಿಕೆಯನ್ನು ನಿಯಂತ್ರಿಸಲು ಕಷ್ಟವಾಗುತ್ತದೆ ಎಂದು AI ಸಂಶೋಧಕರು ಎಚ್ಚರಿಸಿದ್ದಾರೆ.
ಸೋಮವಾರ ಕಾಮೆಂಟ್ಗಾಗಿ ಮಾಡಿದ ವಿನಂತಿಗೆ ಪ್ರತಿಕ್ರಿಯೆಯಾಗಿ ಆಂಥ್ರೊಪಿಕ್ ಪ್ರತಿಕ್ರಿಯಿಸಲು ನಿರಾಕರಿಸಿದೆ.
ಸೇಫ್ಟಿ ಇನ್ವೆಸ್ಟ್ಮೆಂಟ್ ಸುರಕ್ಷತಾ ವಿಧಾನ
AI ಭದ್ರತೆಗೆ ಒತ್ತು ನೀಡಿದ ಹೊರತಾಗಿಯೂ, ಆಂಥ್ರೊಪಿಕ್ ತನ್ನ ಭದ್ರತಾ ಹೂಡಿಕೆಗಳ ಮೇಲಿನ ಆದಾಯವು ಅಸ್ಪಷ್ಟವಾಗಿದೆ ಎಂದು ಹೇಳಿದೆ.
ಅಂತಹ ಸಂಶೋಧನೆಗೆ ಕಂಪನಿಯು ಎಷ್ಟು ಖರ್ಚು ಮಾಡಿದೆ ಎಂಬುದನ್ನು ಡಾಕ್ಯುಮೆಂಟ್ ಬಹಿರಂಗಪಡಿಸಿಲ್ಲ. ಈ ತಿಂಗಳ ಆರಂಭದಲ್ಲಿ, ಆಂಥ್ರೊಪಿಕ್ ಜುಲೈನಲ್ಲಿ ಮಾದರಿ ವಾರದಲ್ಲಿ AI ಸಂಶೋಧನೆಗಾಗಿ ಬಳಸಲಾದ ಕಂಪ್ಯೂಟಿಂಗ್ ಪವರ್ನ ಸುಮಾರು 6 ಪ್ರತಿಶತವನ್ನು ಭದ್ರತಾ ಕಾರ್ಯಕ್ಕಾಗಿ ಖರ್ಚು ಮಾಡಲಾಗಿದೆ ಎಂದು ಹೇಳಿದರು.
ಕ್ಲೌಡ್ AI ಮಾದರಿಗಳ ತಯಾರಕ ಕಂಪನಿಯು ಭದ್ರತಾ ಪ್ರಯತ್ನಗಳನ್ನು “ಸಂಪನ್ಮೂಲ-ತೀವ್ರ” ಎಂದು ವಿವರಿಸಿದೆ ಮತ್ತು ಕಂಪ್ಯೂಟಿಂಗ್ ಶಕ್ತಿ, ಮೌಲ್ಯಯುತ AI ಪ್ರತಿಭೆ ಮತ್ತು ಭದ್ರತೆಯ ನಡುವೆ ತನ್ನ ಸೀಮಿತ ಹಣವನ್ನು ವಿಭಜಿಸಬೇಕೆಂದು ಹೇಳಿದೆ.
ಆಂಥ್ರೊಪಿಕ್ ತನ್ನ ಗ್ರಾಹಕರ ಬಳಕೆ ಮತ್ತು ಅದರ ಪರಿಣಾಮವಾಗಿ ಆದಾಯವನ್ನು ಹೊಸ ಮಾದರಿಗಳಿಂದ ನಡೆಸುತ್ತಿದೆ ಮತ್ತು ಬಿಡುಗಡೆಗಳ “ನಿರಂತರ ಮತ್ತು ಪುನರಾವರ್ತಿತ ಕ್ಯಾಡೆನ್ಸ್” “AI ಅಭಿವೃದ್ಧಿಯ ತುದಿಯಲ್ಲಿ ಉಳಿಯುವ ಲಕ್ಷಣವಾಗಿದೆ” ಎಂದು ಹೇಳಿದರು.
ಕಳೆದ ವಾರ, ಕಂಪನಿಯು ತನ್ನ ಓಪಸ್ ಮಾದರಿಯ ಹೊಸ ಆವೃತ್ತಿಯನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿತು, ಸಿಇಒ ಡಾರಿಯೊ ಅಮೊಡೆಯ್ ಅವರು ಗಡಿಗಳನ್ನು ತಳ್ಳಲು ಸುಮಾರು 4,000-ಪದಗಳ ಪ್ರಬಂಧವನ್ನು ಪ್ರಕಟಿಸಿದ 10 ದಿನಗಳ ನಂತರ.
ಪ್ರತಿ ಬಿಡುಗಡೆಯೊಂದಿಗೆ ಮೌಲ್ಯಗಳು ಬದಲಾಗಬಹುದಾದ ಉದ್ಯಮದಲ್ಲಿ ಸ್ಪರ್ಧಿಗಳ ಮೇಲೆ ಅಂಚನ್ನು ನೀಡಿದಾಗ ಯಾವುದೇ ಪ್ರಮುಖ AI ಲ್ಯಾಬ್ ನಿಧಾನವಾಗುವುದಿಲ್ಲ ಎಂದು ಕೆಲವು ವಿಶ್ಲೇಷಕರು ಮತ್ತು ತಜ್ಞರು ಹೇಳಿದ್ದಾರೆ.
ಆಂಥ್ರೊಪಿಕ್ ಇತ್ತೀಚಿನ ವಾರಗಳಲ್ಲಿ ಭವಿಷ್ಯದ ಪೀಳಿಗೆಯ ತಂತ್ರಜ್ಞಾನವನ್ನು ನಿರ್ಮಿಸಲು AI ಮಾದರಿಗಳನ್ನು ಹೇಗೆ ಬಳಸುತ್ತದೆ ಎಂಬುದರ ಕುರಿತು ಹೆಚ್ಚಿನ ಮಾಹಿತಿಯನ್ನು ಸಾರ್ವಜನಿಕವಾಗಿ ಬಹಿರಂಗಪಡಿಸಲು ಭರವಸೆ ನೀಡಿದೆ, ಏಕೆಂದರೆ ತಜ್ಞರು ಪುನರಾವರ್ತಿತ ಸ್ವಯಂ-ಸುಧಾರಣೆಯ ಬಗ್ಗೆ ಎಚ್ಚರಿಸುತ್ತಾರೆ – ಮಾನವ ಸಹಾಯವಿಲ್ಲದೆಯೇ ಮಾದರಿಗಳು ತಮ್ಮದೇ ಆದ ವಿಕಸನಗೊಳ್ಳುವ ಹಂತ.
“ವಿಶ್ವಾಸಾರ್ಹ, ವಿಶ್ವಾಸಾರ್ಹ ಮತ್ತು ಸುರಕ್ಷಿತ AI ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸುವುದು ಸಾಮೂಹಿಕ ಜವಾಬ್ದಾರಿಯಾಗಿದೆ ಮತ್ತು ಮಾರುಕಟ್ಟೆಯು ಅದಕ್ಕೆ ಪ್ರತಿಫಲ ನೀಡುತ್ತದೆ ಎಂದು ನಾವು ನಂಬುತ್ತೇವೆ” ಎಂದು ಆಂಥ್ರೊಪಿಕ್ ಫೈಲಿಂಗ್ನಲ್ಲಿ ತಿಳಿಸಿದೆ.
Leave a Reply