SDK对YUV视频序列进行编码,使用Canvas实时处理Video

SDK对YUV视频序列进行编码,使用Canvas实时处理Video

HTML5:使用Canvas实时处理Video

2015/09/11 · HTML5 ·
Canvas

本文由 伯乐在线 –
cucr
翻译,唐尤华
校稿。未经许可,禁止转发!
英文出处:mozilla。欢迎参预翻译组。

结合HTML5下的videocanvas的效益,你能够实时处理录制数据,为正值播放的摄像添加各个种种的视觉效果。本学科演示怎么样选用JavaScript代码实现chroma-keying特效(也被叫做“均红显示屏效应”)。

请看那一个实例.

来探望机智的前端童鞋怎么防盗

2016/07/12 · JavaScript
· 4 评论 ·
HTML5

原稿出处: VaJoy   

洋洋支付的童鞋都以孤独混江湖、夜宿城中村,假若居住的地点安全保卫欠缺,那么出门在外难免担心屋里的资金财产安全。

骨子里世面上有很多高大上的防盗设施,但对此灵动的前端童鞋来说,只要有一台附带录像头的微处理器,就足以大致地贯彻2个防盗监察和控制系统~

纯 JS 的“防盗”能力相当大程度借助于 H5 canvas
的能力,且12分有趣。假设您对 canvas
还不理解,能够先点这里读书作者的层层教程。

step1. 调用摄像头

小编们须要先在浏览器上访问和调用录像头,用来监督屋子里的举动。不一致浏览器中调用摄像头的
API 都略有出入,在此处我们以 chrome 做示范:

JavaScript

<video width=”640″ height=”480″ autoplay></video>
<script> var video = document.querySelector(‘video’);
navigator.webkitGetUserMedia({ video: true }, success, error); function
success(stream) { video.src = window.webkitURL.createObjectURL(stream);
video.play(); } function error(err) { alert(‘video error: ‘ + err) }
</script>

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
<video width="640" height="480" autoplay></video>
 
<script>
    var video = document.querySelector(‘video’);
 
    navigator.webkitGetUserMedia({
                video: true
            }, success, error);
 
    function success(stream) {
        video.src = window.webkitURL.createObjectURL(stream);
        video.play();
    }
 
    function error(err) {
        alert(‘video error: ‘ + err)
    }
</script>

运维页面后,浏览器出于安全性考虑,会掌握是或不是同意当前页面访问你的摄像头设备,点击“允许”后便能向来在
<video> 上观察拍戏头捕获到的镜头了:

图片 1

step2. 捕获 video 帧画面

只但是开着录制头监视房间可没有别的意义,浏览器不会帮您对监督画面实行分析。所以那里大家顺遂动用脚本捕获
video 上的帧画面,用于在此起彼伏进展数量解析。

从那边伊始大家就要借助 canvas
力量了。在 Canvas入门(五)一文大家介绍过 ctx.drawImage()
方法,通过它能够捕获 video 帧画面并渲染到画布上。

我们要求创建1个画布,然后这么写:

JavaScript

<video width=”640″ height=”480″ autoplay></video> <canvas
width=”640″ height=”480″></canvas> <script> var video =
document.querySelector(‘video’); var canvas =
document.querySelector(‘canvas’); // video捕获录像头画面
navigator.webkitGetUserMedia({ video: true }, success, error); function
success(stream) { video.src = window.webkitUKoleosL.createObjectU昂CoraL(stream);
video.play(); } function error(err) { alert(‘video error: ‘ + err) }
//canvas var context = canvas.getContext(‘2d’); setTimeout(function(){
//把当前录像帧内容渲染到画布上 context.drawImage(video, 0, 0, 640, 480);
}, 五千); </script>

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
<video width="640" height="480" autoplay></video>
<canvas width="640" height="480"></canvas>
 
<script>
    var video = document.querySelector(‘video’);
    var canvas = document.querySelector(‘canvas’);
 
    // video捕获摄像头画面
    navigator.webkitGetUserMedia({
                video: true
            }, success, error);
 
    function success(stream) {
        video.src = window.webkitURL.createObjectURL(stream);
        video.play();
    }
 
    function error(err) {
        alert(‘video error: ‘ + err)
    }
 
    //canvas
    var context = canvas.getContext(‘2d’);
 
    setTimeout(function(){
        //把当前视频帧内容渲染到画布上
        context.drawImage(video, 0, 0, 640, 480);
    }, 5000);
 
</script>

如上代码所示,5秒后把录像帧内容渲染到画布上(下方右图)

图片 2

step3. 对抓获的七个帧画面执行差距混合

在上头大家关系过,要卓有作用地识别有些场景,需求对摄像镜头实行数量解析。

那便是说要怎么分辨大家的房屋是不是有人忽然闯入了呢?答案相当的粗略 —— 定时地捕获
video 画面,然后相比前后两帧内容是不是留存较大转移。

小编们先简单地写3个定时捕获的不二法门,并将捕获到的帧数据存起来:

JavaScript

//canvas var context = canvas.getContext(‘2d’); var preFrame, //前一帧
curFrame; //当前帧 //捕获并保存帧内容 function captureAndSaveFrame(){
console.log(context); preFrame = curFrame; context.drawImage(video, 0,
0, 640, 480); curFrame = canvas.toDataU牧马人L; //转为base64并保存 }
//定时捕获 function timer(delta){ setTimeout(function(){
captureAndSaveFrame(); timer(delta) }, delta || 500); } timer();

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
    //canvas
    var context = canvas.getContext(‘2d’);
    var preFrame,   //前一帧
        curFrame;   //当前帧
 
    //捕获并保存帧内容
    function captureAndSaveFrame(){ console.log(context);
        preFrame = curFrame;
        context.drawImage(video, 0, 0, 640, 480);
        curFrame = canvas.toDataURL;  //转为base64并保存
    }
 
    //定时捕获
    function timer(delta){
        setTimeout(function(){
            captureAndSaveFrame();
            timer(delta)
        }, delta || 500);
    }
 
    timer();

如上代码所示,画布会每隔500阿秒捕获并渲染二回 video
的帧内容(夭寿哇,做完那些动作非常的大心把饼干洒了一地。。。\(“▔□▔)/)

图片 3

瞩目那里大家采纳了 canvas.toDataURL 方法来保存帧画面。

接着正是数据解析处理了,咱们能够透过相比前后捕获的帧画面来判定摄像头是不是监察和控制到变化,那么如何是好吗?

熟知设计的同校肯定经常使用八个图层作用 —— 混合形式:

图片 4

当有多个图层时,对顶层图层设置“差值/Difference”的交集模式,能够看透地看出四个图层的距离:

图片 5

“图A”是自家2018年在店铺楼下拍的照片,然后自个儿把它有个别调亮了一丢丢,并在上头画了八个X 和 O
获得“图B”。接着本身把它们以“差值”方式混合在一块儿,得到了最右的那张图。

JavaScript

“差值”格局原理:要掺杂图层双方的奥迪Q5GB值中各类值分别举行相比,用高值减去低值作为合成后的颜色,平日用孔雀蓝图层合成一图像时,能够取得负片效果的反相图像。用肉桂色的话不暴发任何变化(青黄亮度最低,下层颜色减去最小颜色值0,结果和原先一样),而用紫藤色会获得反相效果(下层颜色被减去,得到补值),别的颜色则基于它们的亮度水平

1
“差值”模式原理:要混合图层双方的RGB值中每个值分别进行比较,用高值减去低值作为合成后的颜色,通常用白色图层合成一图像时,可以得到负片效果的反相图像。用黑色的话不发生任何变化(黑色亮度最低,下层颜色减去最小颜色值0,结果和原来一样),而用白色会得到反相效果(下层颜色被减去,得到补值),其它颜色则基于它们的亮度水平

在CSS3中,已经有 blend-mode
性子来支撑那个妙不可言的滥竽充数模式,然则大家发现,在主流浏览器上,canvas
的 globalCompositeOperation 接口也一度能够援助了图像混合情势:

于是我们再建多一个画布来展现前后两帧差距:

JavaScript

<video width=”640″ height=”480″ autoplay></video> <canvas
width=”640″ height=”480″></canvas> <canvas width=”640″
height=”480″></canvas> <script> var video =
document.querySelector(‘video’); var canvas =
document.querySelectorAll(‘canvas’)[0]; var canvasForDiff =
document.querySelectorAll(‘canvas’)[1]; // video捕获录像头画面
navigator.webkitGetUserMedia({ video: true }, success, error); function
success(stream) { video.src = window.U景逸SUVL.createObjectU奥迪Q5L(stream);
video.play(); } function error(err) { alert(‘video error: ‘ + err) }
//canvas var context = canvas.getContext(‘2d’), diffCtx =
canvasForDiff.getContext(‘2d’); //将第二个画布混合形式设为“差异”
diffCtx.globalCompositeOperation = ‘difference’; var preFrame, //前一帧
curFrame; //当前帧 //捕获并保存帧内容 function captureAndSaveFrame(){
preFrame = curFrame; context.drawImage(video, 0, 0, 640, 480); curFrame
= canvas.toDataUPAJEROL(); //转为base64并保存 } //绘制base64图像到画布上
function drawImg(src, ctx){ ctx = ctx || diffCtx; var img = new Image();
img.src = src; ctx.drawImage(img, 0, 0, 640, 480); } //渲染前后两帧差距function renderDiff(){ if(!preFrame || !curFrame) return;
diffCtx.clearRect(0, 0, 640, 480); drawImg(preFrame); drawImg(curFrame);
} //定时捕获 function timer(delta){ setTimeout(function(){
captureAndSaveFrame(); renderDiff(); timer(delta) }, delta || 500); }
timer(); </script>

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
<video width="640" height="480" autoplay></video>
<canvas width="640" height="480"></canvas>
<canvas width="640" height="480"></canvas>
 
<script>
    var video = document.querySelector(‘video’);
    var canvas = document.querySelectorAll(‘canvas’)[0];
    var canvasForDiff = document.querySelectorAll(‘canvas’)[1];
 
    // video捕获摄像头画面
    navigator.webkitGetUserMedia({
                video: true
            }, success, error);
 
    function success(stream) {
        video.src = window.URL.createObjectURL(stream);
        video.play();
    }
 
    function error(err) {
        alert(‘video error: ‘ + err)
    }
 
    //canvas
    var context = canvas.getContext(‘2d’),
        diffCtx = canvasForDiff.getContext(‘2d’);
    //将第二个画布混合模式设为“差异”
    diffCtx.globalCompositeOperation = ‘difference’;
 
    var preFrame,   //前一帧
        curFrame;   //当前帧
 
    //捕获并保存帧内容
    function captureAndSaveFrame(){
        preFrame = curFrame;
        context.drawImage(video, 0, 0, 640, 480);
        curFrame = canvas.toDataURL();  //转为base64并保存
    }
 
    //绘制base64图像到画布上
    function drawImg(src, ctx){
        ctx = ctx || diffCtx;
        var img = new Image();
        img.src = src;
        ctx.drawImage(img, 0, 0, 640, 480);
    }
 
    //渲染前后两帧差异
    function renderDiff(){
        if(!preFrame || !curFrame) return;
        diffCtx.clearRect(0, 0, 640, 480);
        drawImg(preFrame);
        drawImg(curFrame);
    }
 
    //定时捕获
    function timer(delta){
        setTimeout(function(){
            captureAndSaveFrame();
            renderDiff();
            timer(delta)
        }, delta || 500);
    }
 
    timer();
 
</script>

功效如下(夭寿啊,做完这一个动作笔者又把百事可乐洒在键盘上了。。。(#--)/

图片 6

可以看来,当前后两帧差异非常的小时,第多少个画布大致是盲目标一片,唯有当拍录头捕获到动作了,第⑤个画布才有强烈的高亮内容出现。

为此,大家只供给对第九个画布渲染后的图像举办像素分析——判断其高亮阈值是不是达到有个别钦命预期:

JavaScript

var context = canvas.getContext(‘2d’), diffCtx =
canvasForDiff.getContext(‘2d’); //将第①个画布混合方式设为“差别”
diffCtx.globalCompositeOperation = ‘difference’; var preFrame, //前一帧
curFrame; //当前帧 var diffFrame; //存放差别帧的imageData
//捕获并保存帧内容 function captureAndSaveFrame(){ preFrame = curFrame;
context.drawImage(video, 0, 0, 640, 480); curFrame = canvas.toDataUCR-VL();
//转为base64并保存 } //绘制base64图像到画布上 function drawImg(src,
ctx){ ctx = ctx || diffCtx; var img = new Image(); img.src = src;
ctx.drawImage(img, 0, 0, 640, 480); } //渲染前后两帧差别 function
renderDiff(){ if(!preFrame || !curFrame) return; diffCtx.clearRect(0, 0,
640, 480); drawImg(preFrame); drawImg(curFrame); diffFrame =
diffCtx.getImageData( 0, 0, 640, 480 ); //捕获差距帧的imageData对象 }
//总结差距 function calcDiff(){ if(!diffFrame) return 0; var cache =
arguments.callee, count = 0; cache.total = cache.total || 0;
//整个画布都是反动时怀有像素的值的总额 for (var i = 0, l =
diffFrame.width * diffFrame.height * 4; i < l; i += 4) { count +=
diffFrame.data[i] + diffFrame.data[i + 1] + diffFrame.data[i + 2];
if(!cache.isLoop伊夫r){ //只需在第①次循环里执行 cache.total += 255 * 3;
//单个反革命像素值 } } cache.isLoop伊夫r = true; count *= 3; //亮度放大
//重临“差别画布高亮部分像素总值”占“画布全亮景况像素总值”的比重 return
Number(count/cache.total).toFixed(2); } //定时捕获 function
timer(delta){ setTimeout(function(){ captureAndSaveFrame();
renderDiff(); set提姆eout(function(){ console.log(calcDiff()); }, 10);
timer(delta) }, delta || 500); } timer();

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
    var context = canvas.getContext(‘2d’),
        diffCtx = canvasForDiff.getContext(‘2d’);
    //将第二个画布混合模式设为“差异”
    diffCtx.globalCompositeOperation = ‘difference’;
 
    var preFrame,   //前一帧
        curFrame;   //当前帧
 
    var diffFrame;  //存放差异帧的imageData
 
    //捕获并保存帧内容
    function captureAndSaveFrame(){
        preFrame = curFrame;
        context.drawImage(video, 0, 0, 640, 480);
        curFrame = canvas.toDataURL();  //转为base64并保存
    }
 
    //绘制base64图像到画布上
    function drawImg(src, ctx){
        ctx = ctx || diffCtx;
        var img = new Image();
        img.src = src;
        ctx.drawImage(img, 0, 0, 640, 480);
    }
 
    //渲染前后两帧差异
    function renderDiff(){
        if(!preFrame || !curFrame) return;
        diffCtx.clearRect(0, 0, 640, 480);
        drawImg(preFrame);
        drawImg(curFrame);
        diffFrame = diffCtx.getImageData( 0, 0, 640, 480 );  //捕获差异帧的imageData对象
    }
 
    //计算差异
    function calcDiff(){
        if(!diffFrame) return 0;
        var cache = arguments.callee,
            count = 0;
        cache.total = cache.total || 0; //整个画布都是白色时所有像素的值的总和
        for (var i = 0, l = diffFrame.width * diffFrame.height * 4; i < l; i += 4) {
            count += diffFrame.data[i] + diffFrame.data[i + 1] + diffFrame.data[i + 2];
            if(!cache.isLoopEver){  //只需在第一次循环里执行
                cache.total += 255 * 3;   //单个白色像素值
            }
        }
        cache.isLoopEver = true;
        count *= 3;  //亮度放大
        //返回“差异画布高亮部分像素总值”占“画布全亮情况像素总值”的比例
        return Number(count/cache.total).toFixed(2);
    }
 
    //定时捕获
    function timer(delta){
        setTimeout(function(){
            captureAndSaveFrame();
            renderDiff();
            setTimeout(function(){
                console.log(calcDiff());
            }, 10);
 
            timer(delta)
        }, delta || 500);
    }
 
    timer();

只顾这里大家利用了 count *= 3
来加大差别高亮像素的亮度值,不然得出的数值实在太小了。大家运转下页面(图片较大加载会有点慢)

图片 7

经过试(xia)验(bai),个人认为即使 calcDiff() 重回的比值假若超过0.20,那么就足以定性为“一间空屋子,突然有人闯进来”的气象了。

step4. 上报至极图片

当上述的计量发现有场景时,需求有某种途径公告大家。有钱有生气的话能够安插个邮件服务器,直接发邮件甚至短信文告到祥和,but
本文走的吃吐少年路线,就不搞的那么高端了。

那正是说要怎么样简单地落到实处充足图片的举报呢?笔者临时想到的是 ——
直接把难题图片发送到某些站点中去。

那里大家选用天涯论坛的“日记”功用,它能够随意上传相关内容。

JavaScript

p.s.,其实那里原来是想直接把图片传遍今日头条相册上的,可惜POST请求的图样实体必要走
file 格式,即不可能通过脚本更改文件的 input[type=file],转 Blob
再上传也没用,只能作罢。

1
p.s.,其实这里原本是想直接把图片传到博客园相册上的,可惜POST请求的图片实体要求走 file 格式,即无法通过脚本更改文件的 input[type=file],转 Blob 再上传也没用,只好作罢。

咱俩在保管后台创立日记时,通过 Fiddler 抓包能够看到其请求参数万分简单:

图片 8

据此得以一贯社团贰个请求:

JavaScript

//格外图片上传处理 function submit(){ //ajax 提交form $.ajax({ url :
”, type : “POST”, data : {
‘__VIEWSTATE’: ”, ‘__VIEWSTATEGENERATOR’: ‘4773056F’,
‘Editor$Edit$txbTitle’: ‘告警’ + Date.now(), ‘Editor$Edit$EditorBody’:
‘<img src=”‘%20+%20curFrame%20+%20′” />’, ‘Editor$Edit$lkbPost’: ‘保存’ },
success: function(){ console.log(‘submit done’) } }); }

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
    //异常图片上传处理
    function submit(){
 
        //ajax 提交form
        $.ajax({
            url : ‘http://i.cnblogs.com/EditDiary.aspx?opt=1’,
            type : "POST",
            data : {
                ‘__VIEWSTATE’: ”,
                ‘__VIEWSTATEGENERATOR’: ‘4773056F’,
                ‘Editor$Edit$txbTitle’: ‘告警’ + Date.now(),
                ‘Editor$Edit$EditorBody’: ‘<img src="’%20+%20curFrame%20+%20’" />’,
                ‘Editor$Edit$lkbPost’: ‘保存’
            },
            success: function(){
                console.log(‘submit done’)
            }
        });
    }

本来如若请求页面跟腾讯网域名不一样,是不能发送 cookie
导致请求跨域而失效,不过这几个很好解决,直接改动 host
即可(怎么修改就不介绍了,自行百度吗)

笔者那边改完 host,通过 
的地址访问页面,发现摄像头竟然失效了~

通过谷歌(谷歌)的文档可以识破,那是为着安全性考虑,非
HTTPS 的服务端请求都不能够联网摄像头。可是化解办法也是部分,以 window
系统为例,打开 cmd 命令行面板并一贯到 chrome 安装文件夹下,然后实施:

ZSH

chrome
–unsafely-treat-insecure-origin-as-secure=””
–user-data-dir=C:\testprofile

1
chrome –unsafely-treat-insecure-origin-as-secure="http://i.cnblogs.com/h5monitor/final.html"  –user-data-dir=C:\testprofile

此举将以沙箱格局打开二个单身的 chrome
进度,并对点名的站点去掉安全范围。注意大家在新开的 chrome
中得重新登录新浪。

那时便能正常访问录像头了,大家对代码做下处理,当差别检查和测试发现卓殊时,创造一份日记,最小间隔时间为5秒(可是后来发觉没须要,因为新浪已经有做了时光限定,大概10秒后才能发表新的日志)

JavaScript

//定时捕获 function timer(delta){ setTimeout(function(){
captureAndSaveFrame(); renderDiff(); if(calcDiff() > 0.2){
//监察和控制到非凡,发日志 submit() } timer(delta) }, delta || 500); }
set提姆eout(timer, 陆仟0 * 10); //设定打开页面十秒钟后才起来监控//至极图片上传处理 function submit(){ var cache = arguments.callee, now
= Date.now(); if(cache.req提姆e && (now – cache.reqTime < 5000))
return; //日记创造最小间隔为5秒 cache.reqTime = now; //ajax 提交form
$.ajax({ url : ”, type :
“POST”, timeout : 5000, data : { ‘__VIEWSTATE’: ”,
‘__VIEWSTATEGENERATOR’: ‘4773056F’, ‘Editor$Edit$txbTitle’: ‘告警’ +
Date.now(), ‘Editor$Edit$EditorBody’: ‘<img src=”‘%20+%20curFrame%20+%20′”
/>’, ‘Editor$Edit$lkbPost’: ‘保存’ }, success: function(){
console.log(‘submit done’) }, error: function(err){ cache.reqTime = 0;
console.log(‘error: ‘ + err) } }); }

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
    //定时捕获
    function timer(delta){
        setTimeout(function(){
            captureAndSaveFrame();
            renderDiff();
            if(calcDiff() > 0.2){  //监控到异常,发日志
                submit()
            }
 
            timer(delta)
        }, delta || 500);
    }
 
    setTimeout(timer, 60000 * 10);  //设定打开页面十分钟后才开始监控
 
 
    //异常图片上传处理
    function submit(){
        var cache = arguments.callee,
            now = Date.now();
        if(cache.reqTime && (now – cache.reqTime < 5000)) return;  //日记创建最小间隔为5秒
 
        cache.reqTime = now;
 
        //ajax 提交form
        $.ajax({
            url : ‘http://i.cnblogs.com/EditDiary.aspx?opt=1’,
            type : "POST",
            timeout : 5000,
            data : {
                ‘__VIEWSTATE’: ”,
                ‘__VIEWSTATEGENERATOR’: ‘4773056F’,
                ‘Editor$Edit$txbTitle’: ‘告警’ + Date.now(),
                ‘Editor$Edit$EditorBody’: ‘<img src="’%20+%20curFrame%20+%20’" />’,
                ‘Editor$Edit$lkbPost’: ‘保存’
            },
            success: function(){
                console.log(‘submit done’)
            },
            error: function(err){
                cache.reqTime = 0;
                console.log(‘error: ‘ + err)
            }
        });
    }

实践效果:

图片 9

日志也是妥妥的出来了:

图片 10

点开就能收看那一个的那张图纸了:

图片 11

要专注的是,微博对日记发表数量是有做天天额度限制来防刷的,达到限额的话会招致当天的随笔和小说也无能为力发表,所以得小心使用:

图片 12

只是那种格局仅能反映非凡图片,权且不可能让大家当下收悉告警,有趣味的童鞋能够试着再写个
chrome 插件,定时去拉取日记列表做判断,假诺有新增日记则触发页面 alert。

除此以外大家本来希望能平昔对闯入者实行警告,这块相比较好办 ——
搞个警示的音频,在丰富的时候接触播放即可:

JavaScript

//播放音频 function fireAlarm(){ audio.play() } //定时捕获 function
timer(delta){ set提姆eout(function(){ captureAndSaveFrame(); if(preFrame
&& curFrame){ renderDiff(); if(calcDiff() > 0.2){ //监察和控制到不行
//发日记 submit(); //播放音频告警 fireAlarm(); } } timer(delta) }, delta
|| 500); } setTimeout(timer, 伍仟0 * 10);
//设定打开页面十分钟后才起首监察和控制

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
    //播放音频
    function fireAlarm(){
        audio.play()
    }
 
 
    //定时捕获
    function timer(delta){
        setTimeout(function(){
            captureAndSaveFrame();
            if(preFrame && curFrame){
                renderDiff();
                if(calcDiff() > 0.2){  //监控到异常
                    //发日记
                    submit();
                    //播放音频告警
                    fireAlarm();
                }
            }
            timer(delta)
        }, delta || 500);
    }
 
    setTimeout(timer, 60000 * 10);  //设定打开页面十分钟后才开始监控

末尾说一下,本文代码均挂在我的github上,有趣味的童鞋能够自助下载。共勉~

1 赞 4 收藏 4
评论

图片 13

一 、FFMpeg实行录制编码所必要的结构:

文书档案内容

正文使用的XHTML文书档案如下所示。

XHTML

<!DOCTYPE html PUBLIC “-//W3C//DTD XHTML 1.0 Transitional//EN”
“; <html
xmlns=”; <head> <style> body
{ background: black; color:#CCCCCC; } #c2 { background-image:
url(foo.png); background-repeat: no-repeat; } div { float: left; border
:1px solid #444444; padding:10px; margin: 10px; background:#3B3B3B; }
</style> <script type=”text/javascript;version=1.8″
src=”main.js”></script> </head> <body
onload=”processor.doLoad()”> <div> <video id=”video”
src=”video.ogv” controls=”true”/> </div> <div> <canvas
id=”c1″ width=”160″ height=”96″/> <canvas id=”c2″ width=”160″
height=”96″/> </div> </body> </html>

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"
        "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml">
  <head>
    <style>
      body {
        background: black;
        color:#CCCCCC;
      }
      #c2 {
        background-image: url(foo.png);
        background-repeat: no-repeat;
      }
      div {
        float: left;
        border :1px solid #444444;
        padding:10px;
        margin: 10px;
        background:#3B3B3B;
      }
    </style>
    <script type="text/javascript;version=1.8" src="main.js"></script>
  </head>
 
  <body onload="processor.doLoad()">
    <div>
      <video id="video" src="video.ogv" controls="true"/>
    </div>
    <div>
      <canvas id="c1" width="160" height="96"/>
      <canvas id="c2" width="160" height="96"/>
    </div>
  </body>
</html>

以上代码关键部分如下:

1.创建了两个canvas成分,ID分别为c1和c2。c1用于展示当前帧的原有视频,c2是用来显示执行chroma-keying特效后的录像;c2预加载了一刘震云态图片,将用来取代摄像中的背景观部分。
2.JavaScript代码从main.js文件导入;那段脚本使用JavaScript
1.8的特色,所以在导入脚本时,第③2行中钦定了版本。
3.当网页加载时,main.js中的processor.doLoad()方法会运维。

为了达成调用FFMpeg的API达成录制的编码,以下结构是必需的:

JavaScript代码

main.js中的JS代码包涵三个艺术。

AVCodec:AVCodec结构保留了三个编解码器的实例,达成实际的编码功用。平时我们在程序中定义3个指向AVCodec结构的指针指向该实例。
AVCodecContext:AVCodecContext表示AVCodec所表示的上下文音信,保存了AVCodec所急需的一部分参数。对于贯彻编码成效,我们能够在那么些布局中设置我们钦点的编码参数。平时也是概念一个指针指向AVCodecContext。
AVFrame:AVFrame结构保留编码从前的像素数量,并视作编码器的输入数据。其在程序中也是二个指针的样式。
AVPacket:AVPacket表示码流包结构,包罗编码之后的码流数据。该组织得以不定义指针,以一个目的的方式定义。
在大家的顺序中,我们将那些组织构成在了2个结构体中:

初始化chroma-key

doLoad()方法在XHTML文书档案初步加载时调用。那么些主意的效益是为chroma-key处理代码准备所需的变量,设置1个风浪侦听器,当用户最先播报录制时大家能检查和测试到。

JavaScript

doLoad: function() { this.video = document.getElementById(“video”);
this.c1 = document.getElementById(“c1”); this.ctx1 =
this.c1.getContext(“2d”); this.c2 = document.getElementById(“c2”);
this.ctx2 = this.c2.getContext(“2d”); let self = this;
this.video.addEventListener(“play”, function() { self.width =
self.video.videoWidth / 2; self.height = self.video.videoHeight / 2;
self.timerCallback(); }, false); },

1
2
3
4
5
6
7
8
9
10
11
12
13
doLoad: function() {
    this.video = document.getElementById("video");
    this.c1 = document.getElementById("c1");
    this.ctx1 = this.c1.getContext("2d");
    this.c2 = document.getElementById("c2");
    this.ctx2 = this.c2.getContext("2d");
    let self = this;
    this.video.addEventListener("play", function() {
        self.width = self.video.videoWidth / 2;
        self.height = self.video.videoHeight / 2;
        self.timerCallback();
      }, false);
  },

那段代码获取XHTML文书档案中video成分和多少个canvas成分的引用,还收获了三个canvas的图形上下文的引用。那几个将在我们兑现chroma-keying特效时选择。

add伊芙ntListener()监听video成分,当用户按下录制上的播放按钮时被调用。为了应对用户重播,这段代码获取录制的宽度和惊人,并且减半(大家将在推行chroma-keying效果时将摄像的轻重缓急减半),然后调用timerCallback()方法来运转摄像捕捉和视觉效果计算。

/*****************************************
Struct: CodecCtx
Description: FFMpeg编解码器上下文
*****************************************/
typedef struct
{
AVCodec *codec; //指向编解码器实例
AVFrame *frame; //保存解码之后/编码以前的像素数量
AVCodecContext *c; //编解码器上下文,保存编解码器的有个别参数设置
AVPacket pkt; //码流包结构,包涵编码码流数据
} CodecCtx;
二 、FFMpeg编码的最重要步骤:

定时器回调

定时器回调函数在录像开始播放时被调用(当“播放”事件时有发生时),然后负责自个儿周期调用,为每一帧录制完结keying特效。

JavaScript

timerCallback: function() { if (this.video.paused || this.video.ended) {
return; } this.computeFrame(); let self = this; setTimeout(function () {
self.timerCallback(); }, 0); },

1
2
3
4
5
6
7
8
9
10
timerCallback: function() {
    if (this.video.paused || this.video.ended) {
      return;
    }
    this.computeFrame();
    let self = this;
    setTimeout(function () {
        self.timerCallback();
      }, 0);
  },

回调函数首先检查摄像是还是不是正在播放;就算没有,回调函数不做任何事并立即回去。

接下来调用computeFrame()方法,该方法对当前录制帧执行chroma-keying特效。

回调函数做的末梢一件事就是调用setTimeout(),来让它本人尽快地被重新调用。在实事求是环境中,你或许会依照录像的帧率来安装调用频率。

(1)、输入编码参数

拍卖摄像帧数据

computeFrame()方法,如下所示,实际上负责抓取每一帧的数目和推行chroma-keying特效。

JavaScript

computeFrame: function() { this.ctx1.drawImage(this.video, 0, 0,
this.width, this.height); let frame = this.ctx1.getImageData(0, 0,
this.width, this.height); let l = frame.data.length / 4; for (let i = 0;
i < l; i++) { let r = frame.data[i * 4 + 0]; let g = frame.data[i
* 4 + 1]; let b = frame.data[i * 4 + 2]; if (g > 100 && r >
100 && b < 43) frame.data[i * 4 + 3] = 0; }
this.ctx2.putImageData(frame, 0, 0); return; }

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
computeFrame: function() {
    this.ctx1.drawImage(this.video, 0, 0, this.width, this.height);
    let frame = this.ctx1.getImageData(0, 0, this.width, this.height);
    let l = frame.data.length / 4;
 
    for (let i = 0; i < l; i++) {
      let r = frame.data[i * 4 + 0];
      let g = frame.data[i * 4 + 1];
      let b = frame.data[i * 4 + 2];
      if (g > 100 && r > 100 && b < 43)
        frame.data[i * 4 + 3] = 0;
    }
    this.ctx2.putImageData(frame, 0, 0);
    return;
  }

当它被调用后,video成分将彰显近来的摄像帧数据,如下所示:

图片 14

在第三行,录像帧被复制到第3个canvas
ctx1的图样上下文中,中度和宽窄值内定为我们事先封存的帧大小的百分之五十。注意,您能够因而传递video成分到绘图上下文的drawImage()方法来绘制当前摄像帧。其结果是:

图片 15

第壹行代码通过调用第2个canvas上下文的getImageData()方法,来取得原始图像数据当前录像帧的二个副本。它提供了原来的三10个人像素图像数据,那样大家就可见举行操作。第④行代码通过将帧图像数据的路程度除以4,来计算图像的总像素数。

第⑤行代码循环扫描全数像素,获取各样像素的红、绿、蓝值,同时和预约义的背景象举行比较,那几个背景象将用foo.png中程导弹入的背景图像替换。

被检查和测试成背景的每多少个像素,将它的阿尔法值替换为零,申明该像素是全然透明的。结果,最后的图像背景有个别是百分之百晶莹剔透的,那样在第一3行代码,把它被绘制到指标的前后文中时,效果是内容叠加到静态背景上。

通过发生的图像看起来像这么:

图片 16

在录像播放时一再那样做,那样一帧接一帧处理,显示出chroma-key的特效。

请看这么些实例。

1 赞 1 收藏
评论

这一步我们得以设置3个专程的布置文件,并将参数依据有个别事写入那么些布局文件中,再在程序中分析那个布局文件获得编码的参数。固然参数不多的话,大家能够向来利用命令行将编码参数字传送入即可。

有关笔者:cucr

图片 17

新浪今日头条:@hop_ping
个人主页 ·
我的稿子 ·
17

图片 13

(2)、根据须要开端化供给的FFMpeg结构

率先,全数涉嫌到编解码的的成效,都必须求注册音摄像编解码器之后才能选择。注册编解码调用上面的函数:

avcodec_register_all();
编解码器注册成功未来,依照内定的CODEC_ID查找钦点的codec实例。CODEC_ID平时钦赐了编解码器的格式,在此地大家使用当前利用最为普遍的H.264格式为例。查找codec调用的函数为avcodec_find_encoder,其宣称格式为:

AVCodec *avcodec_find_encoder(enum AVCodecID id);
该函数的输入参数为一个AVCodecID的枚举类型,再次回到值为3个指向AVCodec结构的指针,用于吸收接纳找到的编解码器实例。要是没有找到,那么该函数会回去一个空指针。调用方法如下:

/* find the mpeg1 video encoder */
ctx.codec = avcodec_find_encoder(AV_CODEC_ID_H264);
//根据CODEC_ID查找编解码器对象实例的指针
if (!ctx.codec)
{
fprintf(stderr, “Codec not found\n”);
return false;
}
AVCodec查找成功后,下一步是分配AVCodecContext实例。分配AVCodecContext实例须要大家前边查找到的AVCodec作为参数,调用的是avcodec_alloc_context3函数。其评释格局为:

AVCodecContext *avcodec_alloc_context3(const AVCodec *codec);
其特点同avcodec_find_encoder类似,重回一个指向AVCodecContext实例的指针。假诺分配退步,会重临3个空指针。调用形式为:

ctx.c = avcodec_alloc_context3(ctx.codec); //分配AVCodecContext实例
if (!ctx.c)
{
fprintf(stderr, “Could not allocate video codec context\n”);
return false;
}
需注意,在分配成功未来,应将编码的参数设置赋值给AVCodecContext的积极分子。

发表评论

电子邮件地址不会被公开。 必填项已用*标注

网站地图xml地图