ਡੀਪਫੇਕ ਕੀ ਹੈ ਅਤੇ ਇਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ? What Is Deepfake and How Does It Work?

ਪਿਛਲੇ ਕੁਝ ਦਹਾਕਿਆਂ ਵਿੱਚ, ਕੰਪਿਊਟਰਾਂ ਨੇ ਨਾਟਕੀ ਢੰਗ ਨਾਲ ਤਰੱਕੀ ਕੀਤੀ ਹੈ ਅਤੇ ਮੁੱਖ ਤੌਰ 'ਤੇ AI ਦੇ ਤੇਜ਼ ਵਿਕਾਸ ਦੇ ਕਾਰਨ ਅਸਲੀਅਤ ਦੀ ਨਕਲ ਕਰਨ ਵਿੱਚ ਤੇਜ਼ੀ ਨਾਲ ਨਿਪੁੰਨ ਹੋ ਗਏ ਹਨ। ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੀਆਂ ਵੱਖ-ਵੱਖ ਖੇਤਰਾਂ ਵਿੱਚ ਬਹੁਤ ਸਾਰੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਹਨ, ਜਿਵੇਂ ਕਿ ਕੁਦਰਤੀ ਭਾਸ਼ਾ ਪ੍ਰੋਸੈਸਿੰਗ, ਸਪੀਚ ਰਿਕੋਗਨੀਸ਼ਨ, ਮਸ਼ੀਨ ਵਿਜ਼ਨ, ਆਦਿ। ਹਾਲਾਂਕਿ, ਸਾਰੇ AI ਉਤਪਾਦ ਸਮਾਜ ਨੂੰ ਲਾਭ ਨਹੀਂ ਪਹੁੰਚਾਉਂਦੇ ਕਿਉਂਕਿ ਇੱਕ ਹਮਲਾਵਰ ਇਹਨਾਂ ਵਿੱਚੋਂ ਕੁਝ ਤਕਨੀਕਾਂ ਨੂੰ ਆਪਣੀਆਂ ਗੈਰ-ਕਾਨੂੰਨੀ ਗਤੀਵਿਧੀਆਂ ਵਿੱਚ ਵਰਤ ਸਕਦਾ ਹੈ, ਅਤੇ ਡੀਪਫੇਕ ਇੱਕ ਅਜਿਹੀ ਤਕਨਾਲੋਜੀ ਹੈ।

ਇਸ ਲਈ ਡੀਪਫੇਕ ਕੀ ਹੈ, ਅਤੇ ਇਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ? ਇਹਨਾਂ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ, ਆਓ ਪਹਿਲਾਂ ਉਹਨਾਂ ਵਿਸ਼ਿਆਂ ਦੀ ਸੂਚੀ ਵਿੱਚੋਂ ਲੰਘੀਏ ਜੋ ਅਸੀਂ ਇਸ ਬਲੌਗ ਵਿੱਚ ਕਵਰ ਕਰਾਂਗੇ:

    ਡੀਪਫੇਕ ਕੀ ਹੈ?

    ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਕਿ ਅਸੀਂ ਡੀਪਫੇਕ ਦੀ ਪਰਿਭਾਸ਼ਾ 'ਤੇ ਪਹੁੰਚੀਏ, ਆਓ ਪਹਿਲਾਂ ਇਹ ਸਮਝਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੀਏ ਕਿ "ਡੀਪਫੇਕ" ਸ਼ਬਦ ਦਾ ਕੀ ਅਰਥ ਹੈ। "ਡੀਪਫੇਕ" ਸ਼ਬਦ ਦਾ ਅਰਥ "ਡੂੰਘੀ" ਹਿੱਸਾ, ਡੂੰਘੀ ਸਿਖਲਾਈ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ, ਮਸ਼ੀਨਾਂ ਨੂੰ ਮਨੁੱਖੀ ਦਿਮਾਗਾਂ ਵਾਂਗ ਸੋਚਣ ਲਈ ਸਿਖਾਉਣ ਦੀ ਇੱਕ ਤਕਨੀਕ। ਸ਼ਬਦ "ਜਾਅਲੀ" ਡੂੰਘੇ ਨਕਲੀ ਮੀਡੀਆ ਦੇ ਗੁੰਮਰਾਹਕੁੰਨ ਸੁਭਾਅ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦਾ ਹੈ।

    ਡੀਪਫੇਕ ਇੱਕ ਚਿੱਤਰ, ਵੀਡੀਓ, ਅਤੇ ਆਡੀਓ ਹੋ ਸਕਦਾ ਹੈ ਜੋ ਕੁਦਰਤੀ ਜਾਪਦਾ ਹੈ ਪਰ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਨਾਲ ਛੇੜਛਾੜ ਕੀਤੀ ਗਈ ਹੈ। ਹਮਲਾਵਰ ਆਮ ਤੌਰ 'ਤੇ ਜਾਅਲੀ ਸਮੱਗਰੀ ਬਣਾਉਣ ਲਈ ਡੂੰਘੀ ਸਿਖਲਾਈ(ਡੀਪਫੇਕ), ਮਸ਼ੀਨ ਸਿਖਲਾਈ, ਅਤੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਜਿਵੇਂ ਕਿ ਦਰਸ਼ਕਾਂ ਨੂੰ ਧੋਖਾ ਦੇਣ ਲਈ ਕਿਸੇ ਮਸ਼ਹੂਰ ਵਿਅਕਤੀ ਦੇ ਚਿਹਰੇ ਨੂੰ ਕਿਸੇ ਹੋਰ ਵਿਅਕਤੀ ਦੇ ਸਰੀਰ 'ਤੇ ਲਗਾਉਣਾ। ਡੀਪਫੇਕ ਨਕਲੀ ਚਿੱਤਰਾਂ ਤੋਂ ਵੱਖਰੇ ਹਨ ਕਿਉਂਕਿ ਨਕਲੀ ਚਿੱਤਰਾਂ ਨੂੰ ਫੋਟੋਸ਼ਾਪ ਵਰਗੇ ਸਾਧਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਬਣਾਇਆ ਜਾਂਦਾ ਹੈ। ਜਦੋਂ ਕਿ ਡੀਪ ਫੇਕ ਮੁੱਖ ਤੌਰ 'ਤੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਬਣਾਏ ਜਾਂਦੇ ਹਨ। ਇਸ ਤਰ੍ਹਾਂ, ਪਛਾਣ ਦੀ ਚੋਰੀ ਤੋਂ ਆਪਣੇ ਆਪ ਨੂੰ ਬਚਾਉਣਾ ਔਖਾ ਬਣਾਉਂਦਾ ਹੈ।

    ਇਹ ਇਸ ਤਰ੍ਹਾਂ ਨਹੀਂ ਹੈ ਕਿ ਡੀਪਫੇਕ ਸਿਰਫ਼ ਮਾੜੀਆਂ ਜਾਂ ਗੈਰ-ਕਾਨੂੰਨੀ ਚੀਜ਼ਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰਦਾ ਹੈ। ਡੀਪ ਫੇਕ ਵਿਡੀਓਜ਼ 'ਤੇ ਗੌਰ ਕਰੋ, ਜੋ ਅਸੀਂ ਅਕਸਰ ਮੀਮਜ਼, ਸੋਸ਼ਲ ਮੀਡੀਆ ਫਿਲਟਰਾਂ, ਅਤੇ ਫੇਸ-ਸਵੈਪਿੰਗ ਐਪਸ ਵਿੱਚ ਵਰਤਦੇ ਹਾਂ। ਲਗਭਗ ਹਰ ਕੋਈ, ਖਾਸ ਕਰਕੇ ਆਪਣੇ ਵੀਹ ਅਤੇ ਤੀਹ ਦਹਾਕੇ ਦੇ ਲੋਕਾਂ ਨੇ, ਉਹਨਾਂ ਨੂੰ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪਲੇਟਫਾਰਮਾਂ ਜਿਵੇਂ ਕਿ Instagram ਜਾਂ Snapchat 'ਤੇ ਵਰਤਿਆ ਹੈ। ਇਸ ਲਈ, ਅਸੀਂ ਉਹਨਾਂ ਨੂੰ ਮਨੋਰੰਜਨ ਦੇ ਉਦੇਸ਼ਾਂ ਲਈ ਵੀ ਵਰਤ ਸਕਦੇ ਹਾਂ।

    ਡੀਪਫੇਕ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਂਦਾ ਹੈ?

    ਡੀਪਫੇਕ ਟੀਚੇ ਦੀਆਂ ਬਹੁਤ ਸਾਰੀਆਂ ਤਸਵੀਰਾਂ ਨੂੰ VAE (ਵੇਰੀਏਸ਼ਨਲ ਆਟੋ-ਏਨਕੋਡਰ) ਵਜੋਂ ਜਾਣੇ ਜਾਂਦੇ ਡੂੰਘੇ ਸਿੱਖਣ ਵਾਲੇ ਕੰਪਿਊਟਰ ਨੈਟਵਰਕਾਂ ਨੂੰ ਫੀਡ ਕਰਕੇ ਬਣਾਇਆ ਜਾਂਦਾ ਹੈ। ਉਦੇਸ਼ VAEs ਨੂੰ ਵਿਭਿੰਨ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨੂੰ ਇਕੱਠਾ ਕਰਨਾ ਸਿਖਾਉਣਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਰੋਸ਼ਨੀ ਦੀਆਂ ਸਥਿਤੀਆਂ, ਅਤੇ ਚਿਹਰੇ ਦੀਆਂ ਪ੍ਰਤੀਕ੍ਰਿਆਵਾਂ। ਇਹ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ AI ਨੂੰ ਇਹ ਨਿਰਧਾਰਤ ਕਰਨ ਵਿੱਚ ਸਹਾਇਤਾ ਕਰਦੀਆਂ ਹਨ ਕਿ ਕਿਹੜੇ ਵਿਜ਼ੂਅਲ ਤੱਤ, ਜਿਵੇਂ ਕਿ ਸਮੀਕਰਨ ਜਾਂ ਪਰਛਾਵੇਂ, ਵਿਲੱਖਣ ਹਨ ਅਤੇ ਜਿਨ੍ਹਾਂ ਨੂੰ ਹਟਾਇਆ ਜਾਂ ਬਦਲਿਆ ਜਾ ਸਕਦਾ ਹੈ।

    ਆਉ ਇਸ ਪੂਰੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਸਮਝਣ ਲਈ ਇੱਕ ਉਦਾਹਰਣ ਲੈਂਦੇ ਹਾਂ:

    ਮੰਨ ਲਓ ਕਿ ਦੋ ਮਸ਼ਹੂਰ ਹਸਤੀਆਂ ਹਨ। ਪਹਿਲੀ ਸੇਲਿਬ੍ਰਿਟੀ ਐਲੀਸਨ ਬਰੀ ਹੈ, ਅਤੇ ਦੂਜੀ ਜਿਮ ਕੈਰੀ ਹੈ। ਹੁਣ ਹਮਲਾਵਰ ਸਰੋਤ (ਐਲੀਸਨ ਬਰੀ) ਅਤੇ ਡੀਪਫੇਕ (ਜਿਮ ਕੈਰੀ) ਦੇ ਨਿਸ਼ਾਨੇ ਦੇ ਇਨਪੁਟ ਚਿੱਤਰਾਂ ਦੇ ਨਾਲ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਪ੍ਰਦਾਨ ਕਰੇਗਾ। ਇਨਪੁਟ ਚਿੱਤਰਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨ ਤੋਂ ਬਾਅਦ, AI ਇਹ ਮੁਲਾਂਕਣ ਕਰਦੇ ਹੋਏ ਆਉਟਪੁੱਟ ਚਿੱਤਰ ਬਣਾਉਣਾ ਸ਼ੁਰੂ ਕਰਦਾ ਹੈ ਕਿ ਸਮੀਕਰਨ ਦੀਆਂ ਕਿਹੜੀਆਂ ਸੂਖਮਤਾਵਾਂ ਡੀਪਫੇਕ ਲਈ ਵਿਲੱਖਣ ਅਤੇ ਮਹੱਤਵਪੂਰਨ ਹਨ। ਵਿਸ਼ਵਾਸਯੋਗ ਹੋਣ ਲਈ, AI ਸ਼ਖਸੀਅਤ ਦੀਆਂ ਬਾਰੀਕੀਆਂ ਅਤੇ ਚਿਹਰੇ ਦੇ ਝੁਰੜੀਆਂ ਨੂੰ ਕਾਇਮ ਰੱਖੇਗਾ ਜੋ ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ ਮੌਜੂਦ ਹਨ ਅਤੇ ਨਿਸ਼ਾਨਾ ਵਿਅਕਤੀ (ਜਿਮ ਕੈਰੀ) ਲਈ ਵਿਲੱਖਣ ਹਨ।

    ਇਸ ਤੋਂ ਬਾਅਦ, AI ਫੇਸ ਸਵੈਪ ਕਰਨ ਲਈ ਇਨਪੁਟ ਅਤੇ ਆਉਟਪੁੱਟ ਚਿੱਤਰਾਂ ਨੂੰ ਮਿਲਾ ਦੇਵੇਗਾ। ਜਿਮ ਕੈਰੀ ਦੇ ਚਿਹਰੇ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ, ਏਨਕੋਡਰ ਐਲੀਸਨ ਬ੍ਰੀ ਦੇ ਅੰਦੋਲਨ ਦੇ ਨਮੂਨੇ ਅਤੇ ਚਿਹਰੇ ਦੀਆਂ ਪ੍ਰਤੀਕ੍ਰਿਆਵਾਂ ਨੂੰ ਦੁਬਾਰਾ ਬਣਾਏਗਾ।

    ਨੋਟ: ਜੇਕਰ ਹਮਲਾਵਰ ਇੱਕ ਡੀਪਫੇਕ ਵੀਡੀਓ ਬਣਾਉਣਾ ਚਾਹੁੰਦਾ ਹੈ, ਤਾਂ ਫੋਟੋਆਂ ਨੂੰ ਫਰੇਮ ਦੁਆਰਾ ਫਰੇਮ ਵਿੱਚ ਮਿਲਾ ਦਿੱਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ ਤਾਂ ਜੋ ਡੀਪਫੇਕ ਕਲਿੱਪ ਸੱਚਮੁੱਚ ਵਿਸ਼ਵਾਸਯੋਗ ਹੋਵੇ।

    ਡੀਪਫੇਕ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ?

    ਜਿਵੇਂ ਕਿ ਪਿਛਲੀ ਉਦਾਹਰਨ ਵਿੱਚ ਦੱਸਿਆ ਗਿਆ ਹੈ, AI ਡੇਟਾ ਇਨਪੁਟ ਦੇ ਅਧਾਰ ਤੇ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਇੱਕ ਪ੍ਰੋਗਰਾਮ ਨੂੰ ਇੱਕ ਨਵਾਂ ਚਿਹਰਾ ਬਣਾਉਣਾ ਹੈ ਜਾਂ ਕਿਸੇ ਵਿਅਕਤੀ ਦੇ ਚਿਹਰੇ ਦੇ ਇੱਕ ਹਿੱਸੇ ਨੂੰ ਬਦਲਣਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਪਹਿਲਾਂ ਉਸ ਪ੍ਰੋਗਰਾਮ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ। ਇਸ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ, ਪ੍ਰੋਗਰਾਮ ਨੂੰ ਭਾਰੀ ਮਾਤਰਾ ਵਿੱਚ ਡੇਟਾ ਖੁਆਇਆ ਜਾਂਦਾ ਹੈ, ਜਿਸਦੀ ਵਰਤੋਂ ਇਹ ਆਪਣੇ ਨਵੇਂ ਡੇਟਾ ਨੂੰ ਸਿੱਖਣ ਅਤੇ ਬਣਾਉਣ ਲਈ ਕਰਦਾ ਹੈ।

    Real-life deepfake cases in India

    ਡੀਪਫੇਕ ਦੀਆਂ ਜੜ੍ਹਾਂ ਭਾਰਤ ਵਿੱਚ ਹਨ, ਜਿੱਥੇ ਇਹ ਮੁੱਖ ਤੌਰ 'ਤੇ ਰਾਜਨੀਤੀ, ਫਿਲਮ, ਅਸ਼ਲੀਲਤਾ, ਮਾਣਹਾਨੀ ਅਤੇ ਹੋਰ ਖੇਤਰਾਂ ਵਿੱਚ ਵਰਤੀ ਜਾਂਦੀ ਹੈ। ਸ਼੍ਰੀ ਮਨੋਜ ਤਿਵਾੜੀ ਦੁਆਰਾ ਦਿੱਲੀ ਰਾਜ ਸਰਕਾਰ ਦਾ ਅਪਮਾਨ ਕਰਨ ਵਾਲੇ ਡੀਪਫੇਕ ਤੋਂ ਲੈ ਕੇ ਅਸ਼ਲੀਲ ਸਮੱਗਰੀ, ਜਿਵੇਂ ਕਿ ਸ੍ਰੀਮਤੀ ਰਾਣਾ ਅਯੂਬ ਦੀ ਪੀੜ੍ਹੀ ਤੱਕ, ਇਹ ਸਪੱਸ਼ਟ ਹੈ ਕਿ ਡੀਪਫੇਕ ਲੋਕਾਂ ਦੀਆਂ ਭਾਵਨਾਵਾਂ, ਵਿਚਾਰਾਂ ਅਤੇ ਧਾਰਨਾਵਾਂ ਨੂੰ ਠੇਸ ਪਹੁੰਚਾ ਕੇ ਅਸਲ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ।

    ਆਓ ਭਾਰਤ ਵਿੱਚ ਵਾਪਰੇ ਕੁਝ ਮਸ਼ਹੂਰ ਡੀਪ ਫੇਕ ਕੇਸਾਂ ਨੂੰ ਵੇਖੀਏ:

    ਕੇਸ 1:

    ਅਹਿਮਦਾਬਾਦ 'ਚ 46 ਸਾਲਾ ਕਾਰੋਬਾਰੀ ਸੈਕਸਟੋਰਸ਼ਨ ਸਕੀਮ 'ਚ ਫਸ ਗਿਆ। ਅਜਿਹਾ ਸੋਸ਼ਲ ਮੀਡੀਆ 'ਤੇ ਇਕ ਔਰਤ ਦੀ ਫਰੈਂਡ ਰਿਕਵੈਸਟ ਸਵੀਕਾਰ ਕਰਨ ਤੋਂ ਬਾਅਦ ਹੋਇਆ। ਉਨ੍ਹਾਂ ਨੇ ਨੰਬਰਾਂ ਦਾ ਆਦਾਨ-ਪ੍ਰਦਾਨ ਕੀਤਾ, ਅਤੇ ਔਰਤ ਨੇ ਦੋ ਦਿਨਾਂ ਦੇ ਅੰਦਰ ਇੱਕ ਵੀਡੀਓ ਕਾਲ ਕੀਤੀ।

    ਪੀੜਤਾ ਅਨੁਸਾਰ ਉਹ ਸਿਰਫ਼ 15 ਸੈਕਿੰਡ ਦੀ ਵੀਡੀਓ ਕਾਲ 'ਤੇ ਔਰਤਾਂ ਨਾਲ ਜੁੜ ਗਿਆ। ਕਰੀਬ 15 ਮਿੰਟਾਂ ਬਾਅਦ, ਉਸਨੂੰ ਇੱਕ ਜਬਰਦਸਤੀ ਕਾਲ ਆਈ ਜਿਸ ਵਿੱਚ 2 ਲੱਖ ਰੁਪਏ ਦੀ ਮੰਗ ਕੀਤੀ ਗਈ ਨਹੀਂ ਤਾਂ ਉਹ ਵੀਡੀਓ ਵਾਇਰਲ ਕਰ ਦੇਣਗੇ। ਪੀੜਤ ਨੇ ਸਾਰੀ ਘਟਨਾ ਦੀ ਜਾਣਕਾਰੀ ਸਾਈਬਰ ਸੈੱਲ ਨੂੰ ਦਿੱਤੀ। ਪੁਲਿਸ ਨੇ ਸਥਿਤੀ ਦੀ ਜਾਂਚ ਕੀਤੀ। ਉਨ੍ਹਾਂ ਨੇ ਖੋਜ ਕੀਤੀ ਕਿ ਵੀਡੀਓ ਕਲਿੱਪ ਵਿੱਚ ਔਰਤ ਇੱਕ ਡੀਪ ਫੇਕ ਸੀ ਜੋ ਕਿ ਏਆਈ ਅਤੇ ਐਮਐਲ ਵਰਗੀਆਂ ਤਕਨੀਕੀ ਤਕਨੀਕਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਬਣਾਈ ਗਈ ਸੀ।

    ਕੇਸ 2:

    ਦਿੱਲੀ ਵਿਧਾਨ ਸਭਾ ਚੋਣਾਂ ਤੋਂ ਪਹਿਲਾਂ ਭਾਰਤ ਵਿੱਚ ਮਨੋਜ ਤਿਵਾਰੀ ਦੀ ਇੱਕ ਡੀਪਫੇਕ ਵਟਸਐਪ 'ਤੇ ਵਾਇਰਲ ਹੋ ਗਈ ਸੀ। ਮਨੋਜ ਤਿਵਾੜੀ ਮੂਲ ਵੀਡੀਓ ਵਿੱਚ ਆਪਣੇ ਸਿਆਸੀ ਵਿਰੋਧੀ ਅਰਵਿੰਦ ਕੇਜਰੀਵਾਲ ਦੀ ਆਲੋਚਨਾ ਕਰਦੇ ਹੋਏ ਅੰਗਰੇਜ਼ੀ ਵਿੱਚ ਬੋਲਦੇ ਹੋਏ। ਵੀਡੀਓ ਵਿੱਚ, ਅਸੀਂ ਉਸਨੂੰ ਭਾਜਪਾ ਨੂੰ ਵੋਟ ਪਾਉਣ ਲਈ ਨਾਗਰਿਕਾਂ ਨੂੰ ਪ੍ਰੇਰਿਤ ਕਰਦੇ ਹੋਏ ਦੇਖ ਸਕਦੇ ਹਾਂ। ਦੂਜੀ ਵੀਡੀਓ ਨੂੰ ਡੀਪਫੇਕ ਤਕਨੀਕ ਨਾਲ ਬਦਲਿਆ ਗਿਆ ਸੀ ਤਾਂ ਜੋ ਹਰਿਆਣਵੀ ਵਿੱਚ ਬੋਲਦੇ ਹੀ ਉਸਦਾ ਮੂੰਹ ਹਿੱਲ ਜਾਵੇ।

    ਕੀ ਡੀਪਫੇਕ ਇਹ ਖ਼ਤਰਨਾਕ ਹੈ?

    ਡੀਪਫੇਕ ਟੈਕਨਾਲੋਜੀ ਬਹੁਤ ਤੇਜ਼ ਰਫਤਾਰ ਨਾਲ ਵਿਕਸਤ ਹੋ ਰਹੀ ਹੈ। ਅਤੇ ਇਸ ਤਕਨਾਲੋਜੀ ਦੇ ਉਸ ਬਿੰਦੂ ਤੱਕ ਅੱਗੇ ਵਧਣ ਵਿੱਚ ਬਹੁਤ ਸਮਾਂ ਨਹੀਂ ਲੱਗੇਗਾ ਜਿੱਥੇ ਅਸਲੀ ਵੀਡੀਓ ਤੋਂ ਨਕਲੀ ਵੀਡੀਓ ਦੱਸਣਾ ਅਸੰਭਵ ਹੈ। ਜਦੋਂ ਅਜਿਹਾ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਨਤੀਜੇ ਵਿਨਾਸ਼ਕਾਰੀ ਹੋ ਸਕਦੇ ਹਨ, ਖਾਸ ਕਰਕੇ ਜਨਤਕ ਸ਼ਖਸੀਅਤਾਂ ਅਤੇ ਮਸ਼ਹੂਰ ਹਸਤੀਆਂ ਲਈ।

    ਖਤਰਨਾਕ ਡੀਪ ਫੇਕ ਬਹੁਤ ਸਾਰੇ ਕਰੀਅਰ ਅਤੇ ਜੀਵਨ ਨੂੰ ਖਤਰੇ ਵਿੱਚ ਪਾ ਸਕਦੇ ਹਨ ਅਤੇ ਇੱਥੋਂ ਤੱਕ ਕਿ ਬਰਬਾਦ ਵੀ ਕਰ ਸਕਦੇ ਹਨ। ਖ਼ਰਾਬ ਇਰਾਦੇ ਵਾਲੇ ਲੋਕ ਇਹਨਾਂ ਦੀ ਵਰਤੋਂ ਦੂਜਿਆਂ ਦੀ ਨਕਲ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਦੇ ਦੋਸਤਾਂ, ਪਰਿਵਾਰਾਂ ਅਤੇ ਸਹਿਕਰਮੀਆਂ ਨੂੰ ਹੇਰਾਫੇਰੀ ਕਰਨ ਲਈ ਕਰ ਸਕਦੇ ਹਨ। ਉਹ ਗਲੋਬਲ ਨੇਤਾਵਾਂ ਦੇ ਜਾਅਲੀ ਵੀਡੀਓ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਗਲੋਬਲ ਟਕਰਾਅ ਅਤੇ ਯੁੱਧ ਵੀ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹਨ।

    ਇੱਕ ਸਰਵੇਖਣ ਵਿੱਚ ਦੁਨੀਆ ਭਰ ਦੇ ਵਿਦਿਆਰਥੀਆਂ ਨੇ ਹਿੱਸਾ ਲਿਆ। ਸਰਵੇਖਣ ਮੁਤਾਬਕ ਲੋਕਾਂ ਨੂੰ ਅਸਲ ਖਬਰਾਂ ਨਾਲੋਂ ਝੂਠੀ ਜਾਣਕਾਰੀ ਜ਼ਿਆਦਾ ਯਾਦ ਰਹਿੰਦੀ ਹੈ। ਸਰਵੇਖਣ ਦੇ ਨਤੀਜਿਆਂ ਦੇ ਅਨੁਸਾਰ, ਵੋਟਰ ਮਨਘੜਤ ਖ਼ਬਰਾਂ ਨੂੰ ਦੇਖਣ ਤੋਂ ਬਾਅਦ ਗਲਤ ਵਿਸ਼ਵਾਸ ਸਥਾਪਤ ਕਰ ਸਕਦੇ ਹਨ, ਖਾਸ ਤੌਰ 'ਤੇ ਜੇ ਉਹ ਕਹਾਣੀਆਂ ਉਨ੍ਹਾਂ ਦੇ ਰਾਜਨੀਤਿਕ ਵਿਸ਼ਵਾਸਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦੀਆਂ ਹਨ। ਇਸ ਤਰ੍ਹਾਂ, ਮੇਰੀ ਰਾਏ ਵਿੱਚ, "ਹਾਂ," ਡੀਪਫੇਕ ਤਕਨਾਲੋਜੀ ਖਤਰਨਾਕ ਹੈ।

    ਡੀਪਫੇਕ ਦਾ ਪਤਾ ਕਿਵੇਂ ਲਗਾਇਆ ਜਾਵੇ?

    ਇਸ ਸਮੇਂ, ਨੰਗੀ ਅੱਖ ਨਾਲ ਮਾੜੇ ਤਰੀਕੇ ਨਾਲ ਤਿਆਰ ਕੀਤੇ ਗਏ ਡੀਪਫੇਕ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਸੰਭਵ ਹੋ ਸਕਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਜਿਵੇਂ-ਜਿਵੇਂ ਤਕਨਾਲੋਜੀ ਤਰੱਕੀ ਕਰਦੀ ਹੈ, ਇਹ ਜਲਦੀ ਹੀ ਇਹ ਦੱਸਣਾ ਅਸੰਭਵ ਹੋਵੇਗਾ ਕਿ ਵੀਡੀਓ ਅਸਲੀ ਹੈ ਜਾਂ ਨਹੀਂ। ਸ਼ੁਰੂਆਤ ਵਿੱਚ, ਉਦਾਹਰਨ ਲਈ, ਅੱਖਾਂ ਦਾ ਇੱਕ ਅਸਾਧਾਰਨ ਝਪਕਣਾ ਇੱਕ ਡੀਪਫੇਕ ਦਾ ਇੱਕ ਚੰਗਾ ਸੂਚਕ ਸੀ। ਹਾਲਾਂਕਿ, ਸਿਸਟਮਾਂ ਨੇ ਸਮੇਂ ਦੇ ਨਾਲ ਅੱਖਾਂ ਝਪਕਣ ਦੀ ਨਕਲ ਕਰਨਾ ਸਿੱਖ ਲਿਆ ਹੈ।

    ਇਹ ਇਸ ਲਈ ਹੈ ਕਿਉਂਕਿ ਡੀਪ ਫੇਕ ਦਾ ਪਤਾ ਲਗਾਉਣ ਵਾਲੀਆਂ ਤਕਨੀਕਾਂ ਵੀ AI 'ਤੇ ਅਧਾਰਤ ਹਨ। ਇਹ ਡੀਪ ਫੇਕ ਬਣਾਉਣ ਲਈ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਐਲਗੋਰਿਦਮ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਪੂਰਾ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਇਸ ਲਈ, ਜਦੋਂ ਵੀ ਤੁਸੀਂ ਅਜਿਹੀ ਸਥਿਤੀ ਦਾ ਸਾਹਮਣਾ ਕਰਦੇ ਹੋ ਜਿਸ ਵਿੱਚ ਤੁਸੀਂ ਨਿਸ਼ਚਤ ਨਹੀਂ ਹੋ ਕਿ ਪ੍ਰਦਰਸ਼ਿਤ ਵੀਡੀਓ, ਚਿੱਤਰ, ਆਦਿ, ਅਸਲੀ ਹੈ ਜਾਂ ਨਹੀਂ, ਆਲੋਚਨਾਤਮਕ ਤਰਕ ਦੀ ਵਰਤੋਂ ਕਰੋ ਅਤੇ ਆਪਣੇ ਆਪ ਨੂੰ ਸਵਾਲ ਪੁੱਛੋ, ਜਿਵੇਂ ਕਿ:

    • ਪੈਦਾ ਕਰਨ ਵਾਲਾ ਕੌਣ ਜਾਂ ਕੀ ਹੈ?
    • ਵੀਡੀਓ ਕਦੋਂ ਅਤੇ ਕਿੱਥੇ ਸ਼ੂਟ ਕੀਤਾ ਗਿਆ ਸੀ?
    • ਇਸ ਵੀਡੀਓ ਨੂੰ ਦੇਖ ਕੇ ਕਿਸਨੂੰ ਫਾਇਦਾ ਹੋਵੇਗਾ?
    • ਇਹ ਵੀਡੀਓ ਕੌਣ ਅਤੇ ਕਿਉਂ ਵੰਡ ਰਿਹਾ ਹੈ?
    • ਕੀ ਵੀਡੀਓ ਵਿਚਲਾ ਵਿਅਕਤੀ ਅਚਾਨਕ ਕੁਝ ਕਹਿ ਰਿਹਾ ਹੈ?
    • ਕੀ ਵੀਡੀਓ ਜਾਂ ਚਿੱਤਰ ਕਿਸੇ ਹੋਰ ਦੇ ਏਜੰਡੇ ਦਾ ਪ੍ਰਚਾਰ ਕਰ ਰਿਹਾ ਹੈ?

    ਜਦੋਂ ਕਿਸੇ ਵੀਡੀਓ ਦੀ ਤੁਲਨਾ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਤਾਂ ਡੀਪਫੇਕ ਨਾਲ ਬਣਾਈ ਗਈ ਤਸਵੀਰ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਚੁਣੌਤੀਪੂਰਨ ਹੁੰਦਾ ਹੈ। ਵੀਡੀਓ ਬਣਾਉਣ ਲਈ deepfakes ਦੀ ਵਰਤੋਂ ਕਰਨ ਲਈ ਬਹੁਤ ਗਿਆਨ ਅਤੇ ਮੁਹਾਰਤ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਨਤੀਜੇ ਵਜੋਂ, ਇਸ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਉਦੋਂ ਤੱਕ ਔਖਾ ਨਹੀਂ ਹੁੰਦਾ ਜਦੋਂ ਤੱਕ ਕਿ ਇੱਕ ਡੂੰਘੀ ਨਕਲੀ ਵੀਡੀਓ ਨਿਰਦੋਸ਼ ਨਹੀਂ ਬਣਾਈ ਜਾਂਦੀ। ਆਓ ਕੁਝ ਖਾਮੀਆਂ 'ਤੇ ਨਜ਼ਰ ਮਾਰੀਏ ਜੋ ਡੂੰਘੇ ਨਕਲੀ ਚਿੱਤਰ ਜਾਂ ਵੀਡੀਓ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਤੁਹਾਡੀ ਮਦਦ ਕਰ ਸਕਦੀਆਂ ਹਨ।

    • ਝਟਕੇਦਾਰ ਮੋਸ਼ਨ
    • ਰੋਸ਼ਨੀ ਦੇ ਮੁੱਦੇ
    • ਅਸਥਾਈ ਚਮੜੀ ਟੋਨ
    • ਚਮੜੀ ਦੇ ਟੋਨ ਦੇ ਭਿੰਨਤਾਵਾਂ
    • ਫਰੇਮ ਵਿੱਚ ਵਾਧੂ ਪਿਕਸਲ
    • ਬੋਲੀ ਅਤੇ ਬੁੱਲ੍ਹਾਂ ਦੀ ਗਤੀ ਸਮਕਾਲੀ ਨਹੀਂ ਹੁੰਦੀ ਹੈ
    • ਵਿਅਕਤੀ ਦਾ ਚਿਹਰਾ ਪਿਛੋਕੜ ਨਾਲੋਂ ਧੁੰਦਲਾ ਹੁੰਦਾ ਹੈ

    ਸਿੱਟਾ

    Deepfakes ਇੱਕ ਮੁਕਾਬਲਤਨ ਨਵੀਂ ਅਤੇ ਹੋਨਹਾਰ ਤਕਨਾਲੋਜੀ ਹੈ। ਹਾਲਾਂਕਿ, ਬਹੁਤ ਸਾਰੇ ਮਾਹਰਾਂ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਤਕਨਾਲੋਜੀ ਦੀ ਤਰੱਕੀ ਦੇ ਨਾਲ ਡੀਪ ਫੇਕ ਬਹੁਤ ਜ਼ਿਆਦਾ ਵਧੀਆ ਬਣ ਜਾਣਗੇ। ਨਤੀਜੇ ਵਜੋਂ, ਜਨਤਾ ਨੂੰ ਵਧੇਰੇ ਗੰਭੀਰ ਖਤਰਿਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ, ਜਿਵੇਂ ਕਿ ਚੋਣ ਛੇੜਛਾੜ, ਰਾਜਨੀਤਿਕ ਸੰਘਰਸ਼, ਅਤੇ ਵਾਧੂ ਕਾਨੂੰਨ ਤੋੜਨਾ।