ਸਮੱਗਰੀ 'ਤੇ ਜਾਓ
ਸਮਾਜ

ਓਪਨ ਏਆਈ ਨੇ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਸਮੱਗਰੀ ਅਤੇ ਏਆਈ-ਜਨਰੇਟ ਕੀਤੀ ਸਮੱਗਰੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਏਆਈ ਟੂਲ ਲਾਂਚ ਕੀਤਾ

ਤੁਰਕੀ ਨਿਊਜ਼ ਸੰਪਾਦਕੀ ਟੀਮ · · ਪੜ੍ਹਨ ਦਾ ਸਮਾਂ 6ਮਿੰਟ ਪੜ੍ਹੋ · ਵਿਊਜ਼ 0 ·
ਮੁੱਖ — ਓਪਨ ਏਆਈ ਨੇ ਇੱਕ ਨਵਾਂ ਏਆਈ-ਸੰਚਾਲਿਤ ਵਰਗੀਕਰਣ ਟੂਲ ਜਾਰੀ ਕੀਤਾ ਹੈ ਜੋ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਦੀ ਸਮੱਗਰੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਜਿਸ ਵਿੱਚ ਆਰਟੀਫਿਸ਼ਲ ਇੰਟੈਲੀਜੈਂਸ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਗਈ ਸਮਗਰੀ ਸ਼ਾਮਲ ਹੈ. ਇਸ ਸਾਧਨ ਦਾ ਉਦੇਸ਼ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਟੀਮਾਂ ਲਈ ਅਪਮਾਨਜਨਕ ਸਮੱਗਰੀ ਨੂੰ ਤਰਜੀਹ ਦੇਣਾ ਹੈ।

ਓਪਨ ਏਆਈ ਨੇ ਇੱਕ ਨਵਾਂ ਏਆਈ-ਸੰਚਾਲਿਤ ਵਰਗੀਕਰਣ ਟੂਲ ਤਿਆਰ ਕੀਤਾ ਹੈ ਜੋ ਬਾਲ ਜਿਨਸੀ ਸ਼ੋਸ਼ਣ ਸਮੱਗਰੀ (ਸੀਐਸਏਐਮ) ਦਾ ਪਤਾ ਲਗਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਜਿਸ ਵਿੱਚ ਨਕਲੀ ਬੁੱਧੀ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀਆਂ ਤਸਵੀਰਾਂ ਵੀ ਸ਼ਾਮਲ ਹਨ. ਇਹ ਸਾਧਨ ਪਹਿਲਾਂ ਲੱਭੇ ਨਾ ਗਏ ਬੱਚਿਆਂ ਦੇ ਸ਼ੋਸ਼ਣ ਦੀਆਂ ਤਸਵੀਰਾਂ ਦੀ ਪਛਾਣ ਕਰਨ ਲਈ ਵਿਜ਼ੁਅਲ ਸੰਕੇਤਾਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਦਾ ਹੈ ਅਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਟੀਮਾਂ ਲਈ ਸਮੱਗਰੀ ਨੂੰ ਤਰਜੀਹ ਦੇਣ ਲਈ ਅੰਕ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ। ਇਸ ਟੈਕਨੋਲੋਜੀ ਦਾ ਉਦੇਸ਼ ਗੈਰ-ਕਾਨੂੰਨੀ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਨੂੰ ਸੁਚਾਰੂ ਬਣਾਉਣਾ ਅਤੇ ਡਿਜੀਟਲ ਦੁਰਵਰਤੋਂ ਦਾ ਮੁਕਾਬਲਾ ਕਰਨ ਦੇ ਉਨ੍ਹਾਂ ਦੇ ਯਤਨਾਂ ਵਿੱਚ ਸੁਰੱਖਿਆ ਸੰਗਠਨਾਂ ਦੀ ਸਹਾਇਤਾ ਕਰਨਾ ਹੈ।

ਟੂਲ ਵਿਕਾਸ ਅਤੇ ਟੈਸਟਿੰਗ ਦੇ ਨਤੀਜੇ

ਇਹ ਸਾਧਨ ਸੰਯੁਕਤ ਰਾਜ ਵਿੱਚ ਸਥਿਤ ਨੈਸ਼ਨਲ ਸੈਂਟਰ ਫਾਰ ਮਿਸਿੰਗ ਐਂਡ ਸ਼ੋਪਾਈਟਡ ਚਿਲਡਰਨ (NCMEC) ਦੀ ਸਹਾਇਤਾ ਨਾਲ ਵਿਕਸਿਤ ਕੀਤਾ ਗਿਆ ਸੀ। ਓਪਨ ਏਆਈ ਦੁਆਰਾ ਕਰਵਾਏ ਗਏ ਅੰਦਰੂਨੀ ਟੈਸਟ ਤੋਂ ਸੰਕੇਤ ਮਿਲਦਾ ਹੈ ਕਿ ਇਹ ਸਾਧਨ ਮੈਨੂਅਲ ਸਮੀਖਿਆ ਲਈ ਫਲੈਗ ਕੀਤੇ ਗਏ ਚਿੱਤਰਾਂ ਦੀ ਗਿਣਤੀ ਨੂੰ 48% ਤੱਕ ਘਟਾ ਸਕਦਾ ਹੈ, ਬਿਨਾਂ ਕਿਸੇ ਖੋਜ ਸਮਰੱਥਾ ਨੂੰ ਪ੍ਰਭਾਵਤ ਕੀਤੇ. ਮੈਨੂਅਲ ਵਰਕਲੋਡ ਵਿੱਚ ਇਹ ਕਮੀ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਟੀਮਾਂ ਨੂੰ ਸਿਸਟਮ ਦੁਆਰਾ ਪਛਾਣੇ ਗਏ ਸਭ ਤੋਂ ਗੰਭੀਰ ਮਾਮਲਿਆਂ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਤ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ।

ਬਾਹਰੀ ਟੈਸਟਿੰਗ ਨੇ ਵਰਗੀਕਰਣ ਪ੍ਰਣਾਲੀ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਨੂੰ ਹੋਰ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ ਹੈ। fal.ai ਦੁਆਰਾ ਟੈਸਟਿੰਗ ਨੇ ਪੁਸ਼ਟੀ ਕੀਤੀ ਕਿ 72% ਚਿੱਤਰਾਂ ਨੂੰ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸ਼ੱਕੀ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਜਿਸ ਵਿੱਚ ਪਹਿਲਾਂ ਅਣਪਛਾਤੀ ਅਪਮਾਨਜਨਕ ਸਮੱਗਰੀ ਸ਼ਾਮਲ ਸੀ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਸੇਫਟੀਕਿਟ ਟੈਸਟਾਂ ਨੇ ਇਸ ਸਾਧਨ ਦੀ ਪਛਾਣ 90% ਟੈਸਟ ਕੀਤੇ ਗਏ ਮਾਮਲਿਆਂ ਵਿੱਚ ਕੀਤੀ, ਜਿਸ ਵਿੱਚ ਕਾਰਟੂਨ ਅਤੇ ਐਨੀਮੇਸ਼ਨਾਂ ਵਿੱਚ ਬੱਚਿਆਂ ਦੇ ਜਿਨਸੀ ਵਰਣਨ ਸ਼ਾਮਲ ਸਨ। ਇਹ ਨਤੀਜੇ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਇਹ ਸਾਧਨ ਦੁਰਵਿਵਹਾਰ ਦੇ ਗੁੰਝਲਦਾਰ ਰੂਪਾਂ ਦਾ ਪਤਾ ਲਗਾਉਣ ਦੇ ਸਮਰੱਥ ਹੈ ਜੋ ਰਵਾਇਤੀ ਖੋਜ ਵਿਧੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰ ਸਕਦੇ ਹਨ।

ਓਪਨ ਏਆਈ ਸੁਰੱਖਿਆ ਉਪਾਅ ਅਤੇ ਲਾਗੂ ਕਰਨ

ਓਪਨ ਏਆਈ ChatGPT ਦੇ ਅੰਦਰ ਨਵੇਂ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਲਾਗੂ ਕਰ ਰਿਹਾ ਹੈ ਤਾਂ ਜੋ ਗੈਰਕਾਨੂੰਨੀ ਸਮੱਗਰੀ ਦੇ ਉਤਪਾਦਨ ਅਤੇ ਪਹੁੰਚ ਨੂੰ ਰੋਕਿਆ ਜਾ ਸਕੇ. ਕੰਪਨੀ ਅਪਮਾਨਜਨਕ ਸਮਗਰੀ ਤੱਕ ਪਹੁੰਚਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਚੇਤਾਵਨੀਆਂ ਪੇਸ਼ ਕਰ ਰਹੀ ਹੈ ਅਤੇ ਫਲੈਗਡ ਚੈਟਾਂ ਨੂੰ ਹਟਾਉਣ ਦਾ ਕੰਮ ਕਰੇਗੀ। ਇਹ ਉਪਾਅ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਵਿਆਪਕ ਯਤਨ ਦਾ ਹਿੱਸਾ ਹਨ ਕਿ ਜਨਰੇਟਿਵ ਏਆਈ ਮਾਡਲ ਨੁਕਸਾਨਦੇਹ ਸਮੱਗਰੀ ਦੀ ਸਿਰਜਣਾ ਜਾਂ ਵੰਡ ਦੀ ਸਹੂਲਤ ਨਾ ਦੇਣ।

ਕੰਪਨੀ ਨੇ ਇਨ੍ਹਾਂ ਸੁਰੱਖਿਆ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ ਸਖਤ ਲਾਗੂ ਕਰਨ ਦੀ ਨੀਤੀ ਸਥਾਪਿਤ ਕੀਤੀ ਹੈ। ChatGPT ਵਿੱਚ ਉਲੰਘਣਾ ਦੇ ਨਤੀਜੇ ਵਜੋਂ 24 ਘੰਟੇ ਦੀ ਪਹੁੰਚ ਨੂੰ ਮੁਅੱਤਲ ਕਰ ਦਿੱਤਾ ਜਾਵੇਗਾ। ਵਾਰ-ਵਾਰ ਉਲੰਘਣਾ ਕਰਨ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਲਈ, ਨਤੀਜਿਆਂ ਵਿੱਚ ਲੰਬੀ ਪਾਬੰਦੀਆਂ, ਖਾਤਾ ਬੰਦ ਕਰਨਾ ਜਾਂ ਅਧਿਕਾਰੀਆਂ ਨੂੰ ਰਿਪੋਰਟ ਕਰਨਾ ਸ਼ਾਮਲ ਹੋ ਸਕਦਾ ਹੈ। ਇਹ ਅਨੁਸ਼ਾਸਨੀ ਕਾਰਵਾਈਆਂ ਦਾ ਉਦੇਸ਼ ਗੈਰ-ਕਾਨੂੰਨੀ ਗਤੀਵਿਧੀਆਂ ਲਈ ਏਆਈ ਦੀ ਵਰਤੋਂ ਨੂੰ ਰੋਕਣਾ ਹੈ।

ਡਿਵੈਲਪਰ ਸਹਾਇਤਾ ਅਤੇ ਵੰਡ

ਵਿਆਪਕ ਤਕਨੀਕੀ ਈਕੋਸਿਸਟਮ ਦਾ ਸਮਰਥਨ ਕਰਨ ਲਈ, ਓਪਨ ਏਆਈ ਇਸ ਦੇ ਐਪਲੀਕੇਸ਼ਨ ਪ੍ਰੋਗਰਾਮਿੰਗ ਇੰਟਰਫੇਸ (ਏਪੀਆਈ) ਦੁਆਰਾ ਤਸਦੀਕ ਕੀਤੇ ਸੰਗਠਨਾਂ ਲਈ ਮੁਫਤ ਲਈ ਇਸ ਟੂਲ ਨੂੰ ਜਾਰੀ ਕਰ ਰਿਹਾ ਹੈ. ਇਹ ਹੋਰ ਪਲੇਟਫਾਰਮਾਂ ਅਤੇ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਆਪਣੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਉੱਨਤ ਖੋਜ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਏਕੀਕ੍ਰਿਤ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ। ਇੱਕ API ਰਾਹੀਂ ਤਕਨਾਲੋਜੀ ਪ੍ਰਦਾਨ ਕਰਕੇ, ਓਪਨ ਏਆਈ ਦਾ ਉਦੇਸ਼ ਵੱਖ-ਵੱਖ ਡਿਜੀਟਲ ਵਾਤਾਵਰਣਾਂ ਵਿੱਚ ਅਪਮਾਨਜਨਕ ਸਮੱਗਰੀ ਦੀ ਪਛਾਣ ਕਰਨ ਅਤੇ ਰਿਪੋਰਟ ਕਰਨ ਲਈ ਇੱਕ ਮਾਨਕ ਵਿਧੀ ਤਿਆਰ ਕਰਨਾ ਹੈ।

ਇਸ ਤੋਂ ਇਲਾਵਾ, ਓਪਨ ਏਆਈ ਨੇ ਅਪਮਾਨਜਨਕ ਸਮੱਗਰੀ ਦਾ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਰਿਪੋਰਟ ਕਰਨ ਵਿਚ ਡਿਵੈਲਪਰਾਂ ਦੀ ਸਹਾਇਤਾ ਕਰਨ ਲਈ ਦਿਸ਼ਾ ਨਿਰਦੇਸ਼ ਪ੍ਰਕਾਸ਼ਤ ਕੀਤੇ ਹਨ. ਇਹ ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ ਸਾਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰਾਂ ਅਤੇ ਪਲੇਟਫਾਰਮ ਆਪਰੇਟਰਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਦੇ ਮਿਆਰਾਂ ਨੂੰ ਬਣਾਈ ਰੱਖਣ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਤਕਨੀਕੀ ਅਤੇ ਪ੍ਰਕਿਰਿਆਗਤ frameworks ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਇਹ ਪਹਿਲ AI-ਜਨਰੇਟਿਡ ਸਮੱਗਰੀ ਨਾਲ ਜੁੜੇ ਜੋਖਮਾਂ ਦੇ ਪ੍ਰਬੰਧਨ ਅਤੇ ਡਿਜੀਟਲ ਬਾਲ ਦੁਰਵਰਤੋਂ ਸਮੱਗਰੀ ਦੇ ਪ੍ਰਸਾਰ ਦੀ ਉਦਯੋਗ ਦੀ ਕੋਸ਼ਿਸ਼ ਵਿੱਚ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਕਦਮ ਦਰਸਾਉਂਦੀ ਹੈ।

ਇਹ ਲੇਖ ਕਈ ਖ਼ਬਰਾਂ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਤੋਂ AI ਦੀ ਸਹਾਇਤਾ ਨਾਲ ਲਿਖਿਆ ਗਿਆ ਹੈ ਅਤੇ ਸਾਡੇ ਸੰਪਾਦਕੀ ਸਿਧਾਂਤਾਂ ਅਧੀਨ ਸਾਡੇ ਸੰਪਾਦਕਾਂ ਦੁਆਰਾ ਇਸ ਦੀ ਸਮੀਖਿਆ ਕੀਤੀ ਗਈ ਹੈ। ਸੰਪਾਦਕੀ ਮਿਆਰ · ਸੂਚਨਾ ਤੇ ਸੰਪਰਕ

ਤੁਹਾਨੂੰ ਇਹ ਪੋਸਟ ਕਿਵੇਂ ਲੱਗੀ?

ਟਿੱਪਣੀਆਂ 0

ਪਹਿਲੀ ਟਿੱਪਣੀ ਕਰੋ

ਸਾਡੇ ਨਾਲ ਸੰਪਰਕ ਕਰੋ

← ਤੁਰਕੀ ਨਿਊਜ਼ ਮੁੱਖ ਪੰਨਾ
ਤੁਰਕੀ ਨਿਊਜ਼ ਈਮੇਲ ਰਾਹੀਂ ਨਵੀਆਂ ਪੋਸਟਾਂ ਪ੍ਰਾਪਤ ਕਰੋਈਮੇਲ ਰਾਹੀਂ ਨਵੀਂ ਸਮੱਗਰੀ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਸਬਸਕ੍ਰਾਈਬ ਕਰੋ। ਕਿਸੇ ਵੀ ਸਮੇਂ ਅਨਸਬਸਕ੍ਰਾਈਬ ਕਰੋ।
ਕੀ ਇਹ ਮਦਦਗਾਰ ਸੀ?ਦੋਸਤਾਂ ਅਤੇ ਸੋਸ਼ਲ ਮੀਡੀਆ 'ਤੇ ਸਾਂਝਾ ਕਰੋ