Kinect开发之 Interaction交互设计

什么世道

浏览: 222814 次
性别:
来自: 长沙

最近访客更多访客>>

linbixing

u012363178

wangjn1982

lengzl

博主相关

博客

微博

相册

留言

关于我

文章分类

社区版块

存档分类

博客分类：

Kinect开发

Kinect Interaction交互 wpf 体感 windows

Kinect 1.7和以后版本的SDK，最大的变化是添加了Kinect Interaction 和 Kinect Fusion。Kinect Interactions 提供了一些新的带有姿势识别的控件如 push-to-press 按钮, grip-to-pan 列表控件，而且支持多用户，同时二个人进行的交互，这些新添加的控件能够非常方便的集成到应用程序中，极大的简化了开发和调试过程。

在Kinect Developer ToolKit中，提供了Kinect Interactions，运行Kinect Interactions需要1920*1080的分辨率。本博文简要展示Kinect Interactions中提供的新的控件和交互方式。

一、建立必要环境

创建工程之前，需要到官网上下载并安装Kinect SDK v1.7和Developer Toolkit。首先打开Visual Studio创建一个简单的WPF桌面应用程序，然后添加Microsoft.Kinect.dll , Kinect.Toolkit.dll, Kinect.Toolkit.Controls.dll和Kinect.Toolkit.Interaction.dll 引用，这些dll一般在安装目录下，我的电脑上路径是

C:\Program Files\Microsoft SDKs\Kinect\v1.7\Assemblies\

和C:\Program Files\Microsoft SDKs\Kinect\Developer Toolkit v1.7.0\Assemblies\

1.1 使用KinectSensorChooser控件初始化Kinect传感器

在Microsoft.Kinect.Toolkit.Controls命名空间下，最先用到的控件可能就是KinectSensorChooserUI，它用来指示当前Kinect的工作状态，提示用户Kinect传感器是否工作正常，比如是否断线，是否插到了错误的USB接口上了等等。

要添加这个控件，首先在主窗体中，添加以下命名空间：

xmlns:k="http://schemas.microsoft.com/kinect/2013"

然后，在主窗体中添加KinectSensorChooserUI控件，代码如下：

<Grid>
    <k:KinectSensorChooserUI HorizontalAlignment="Center" VerticalAlignment="Top" Name="sensorChooserUI" />
</Grid>

在cs代码中，我们需要初始化KinectSensorChooser控件对象：

/// <summary>
/// 创建一个KinectSensorChooserUI对象,来指示当前Kinect的工作状态，
/// 提示用户Kinect传感器是否工作正常，比如是否断线，是否插到了错误的USB接口上了等等
/// </summary>
private KinectSensorChooser sensorChooser;

然后在主窗体的构造函数中注册OnLoad事件

/// <summary>
/// 窗体主函数
/// </summary>
public MainWindow()
{
    InitializeComponent();
    //加载初始化方法
    Loaded += OnLoaded;
}

创建OnLoaded的委托方法：

/// <summary>
/// 窗体运行时加载方法
/// </summary>
/// <param name="sender"></param>
/// <param name="e"></param>
private void OnLoaded(object sender, RoutedEventArgs e)
{
    this.sensorChooser = new KinectSensorChooser();
    this.sensorChooser.KinectChanged += SensorChooserOnKinectChanged;
    this.sensorChooserUi.KinectSensorChooser = this.sensorChooser;
    this.sensorChooser.Start(); 
}

如果传感器的状态发生改变，比如关闭或者初始化完成，将会触发SensorChooserOnKinectChanged事件。现在为了演示方便，就用MessageBox弹出提示信息：

private void SensorChooserOnKinectChanged(object sender, KinectChangedEventArgs args)
{
    MessageBox.Show(args.NewSensor == null ? "No Kinect" : args.NewSensor.Status.ToString()); 
}

把电源插上，KinectSensorChooserUI就会切换到初始化的模式下，将鼠标以上去，回展开提示正在初始化：

稍等一会儿，初始化完成之后，就可以看到Kinect的图标，然后状态变为初始化成功，这时回调方法就会执行，弹出MessageBox对话框。初始化完成之后，这个图标就会从界面上消失，直到Kinect的状态再次发生改变：

KinectSensorChooserUI控件根据不同的状态会尝试给予用户相应的提示，切换一下USB口，检查Kinect的电源线是否连好等等。

1.2 建立Kinect交互的基本环境

现在我们已经连上Kinect了，可以开始进行一些交互的基本设置。现在将SensorChooserOnKinectChanged 事件代码补全：

/// <summary>
/// 传感器的状态发生改变触发事件
/// </summary>
/// <param name="sender"></param>
/// <param name="args"></param>
private void SensorChooserOnKinectChanged(object sender, KinectChangedEventArgs args)
{
    //处理初始的Kinect传感器拔掉，连上新的传感器并开启深度和骨骼数据流的情景
    bool error = false;//是否为初始的Kinect传感器
    if (args.OldSensor != null)
    {
        try
        {
            args.OldSensor.DepthStream.Range = DepthRange.Default;
            args.OldSensor.SkeletonStream.EnableTrackingInNearRange = false;
            args.OldSensor.DepthStream.Disable();
            args.OldSensor.SkeletonStream.Disable();
        }
        catch (InvalidOperationException)
        {
            // KinectSensor might enter an invalid state while enabling/disabling streams or stream features.
            // E.g.: sensor might be abruptly unplugged.
            error = true;
        }
    }

    if (args.NewSensor != null)
    {
        try
        {
            //开启传感器深度数据数据流
            args.NewSensor.DepthStream.Enable(DepthImageFormat.Resolution640x480Fps30);
            //开启骨骼数据流
            args.NewSensor.SkeletonStream.Enable();

            try
            {
                //默认使用近景模式，K4W可使用近景模式，xbox不支持近景模式
                args.NewSensor.DepthStream.Range = DepthRange.Near;
                args.NewSensor.SkeletonStream.EnableTrackingInNearRange = true;
                args.NewSensor.SkeletonStream.TrackingMode = SkeletonTrackingMode.Seated;
            }
            catch (InvalidOperationException)
            {
                // Non Kinect for Windows devices do not support Near mode, so reset back to default mode.
                args.NewSensor.DepthStream.Range = DepthRange.Default;
                args.NewSensor.SkeletonStream.EnableTrackingInNearRange = false;
            }
        }
        catch (InvalidOperationException)
        {
            // KinectSensor might enter an invalid state while enabling/disabling streams or stream features.
            // E.g.: sensor might be abruptly unplugged.
            error = true;
           
        }
        try{
            if(!error)
            {
                //设置kinectRegion的KinectSensor属性到获取的kinectSensor上
                kinectRegion.KinectSensor = args.NewSensor; 
            }
        }
        catch(Exception)
        {
            throw;
        }
    }
}

上面的代码可以处理旧的Kinect传感器拔掉，连上新的传感器并开启深度和骨骼数据流的情景，在开发中我们可能会同时连接多个传感器。在try代码中，我们试图开启近景模式，如果用户采用的xbox传感器，则不支持，那么转到一般的模式下。一般情况下，开启近景模式方便调试和用户近距离使用。

二、 Kinect交互控件

2.1 添加 Kinect Region 控件

要想使用 Kinect Interaction，需要在界面上添加一个KinectRegion容器类。KinectRegion是WPF中使用Kinect Interaction进行交互的关键元素。它是其它Kinect interaction 控件的容器。KinectRegion也负责展示和移动手形图标，即用户的手部骨骼点在界面上的展现。应用程序主界面上可以有多个KinectRegion，但是每个KinectRegion不能够嵌套，每一个KinectRegion中可以有自己的Kinect sensor 对象。

现在，添加一个KinectRegion对象到主窗体上：

<k:KinectRegion Name="kinectRegion"></k:KinectRegion>

然后，设置kinectRegion的KinectSensor属性到我们获取的kinectSensor上:

if (!error)
    kinectRegion.KinectSensor = args.NewSensor;

如果运行程序，则会提示错误：

这个错误很常见，提示找不到KinectInteraction170_32.dll。在哪里去找呢? 最简单的办法是到Kinect SDK 和Toolkit 的安装路径下面去查找，找到后，根据当前操作系统的版本，将32位或者64位的dll拷贝到项目的输出路径。推荐用软件everything查找，只用400K的一个软件，搜索文件超快。

再次运行程序，可能需要10-20s的事件来初始化识别，如果一切正常，则会在应用程序上显示手形光标：

为了截图和演示，这里有个小技巧，因为要演示，演示的时候必须距离Kinect一定的距离，这样手够不着键盘的PrintScreen键，所以推荐大家使用Kinect Studio 来录制Kinect获取的数据，然后播放该数据来对Kinect应用程序进行调试，这样可以极大提高调试的效率，不必每次都站在Kinect前面进行操作。我先把动作录下来，然后进行截屏或者录屏制作动画，这样方便很多。

2.2 添加 KinectUserViewer控件

有时在应用程序中，我们希望能够显示用户自己的影像，以便给予一些反馈，在Kinect.Toolkit.Controls中有KinectUserViewer控件，可以使用该控件来展示人物的深度影像，要使用它，需要在主界面上定义一个KinectUserViewer对象:

<k:KinectUserViewer VerticalAlignment="Top" HorizontalAlignment="Center"  k:KinectRegion.KinectRegion="{Binding ElementName=kinectRegion}" Height="100" />

KinectUserViewer展示的是人物在Kinect中的深度影像数据，如果看不到影像，那么表示当前Kinect没有追踪到你，这时应当试着移动来让Kinect追踪到你。运行程序，还是使用刚才Kinect Studio录制到的数据，这时您可以看到自己在Kinect视场中的人物深度影像。

前面的控件用来展现了当前的Kinect状态，手形位置，以及人物在kinect中的深度影像，这些都可以给用户一些全局的反馈，表示当前系统运行正常，现在我们要使用一些基本的控件来真正的和应用程序来进行交互。

2.3添加 KinectTileButton 图片按钮

首先要介绍的是KinectTileButton控件，他也是最简单的一个控件，有点儿像Win8 里面的Metro贴片，他其实是一个普通的button控件，只不过通过Kinect用手来模拟鼠标的行为。

<k:KinectTileButton Label="Press me!" Click="ButtonOnClick"></k:KinectTileButton>

然后在click事件里面写一些提示:

/// <summary>
/// KinectTileButton按钮监听事件
/// </summary>
/// <param name="sender"></param>
/// <param name="e"></param>
private void ButtonOnClick(object sender, RoutedEventArgs e)
{
    //按钮被按下给出弹出框提示
    MessageBox.Show("You clicked me!!!");
}

当我们的手没有接触到该控件的时候，他默认为蓝色。当手移动到按钮上时，按钮会变大，并且手形图标周围会出现阴影，以显示当前处于悬浮状态。然后我们将手掌像Kinect方向推，会发现手形图标会根据距离Kinect的距离远近来产生动画，表示我们正在产生“压”按钮的动作。当达到一定的深度阈值时，表示用户已经按下按钮，手形图标会变色，并且会触发Click事件。

2.4 添加KinectCircleButton图片按钮

KinectCircleButton和KinectTileButton类似，只不过按钮的形状是圆形的，这个可以从名字中可以看出来。要把KinectCircleButton添加到已有的界面布局中，我们需要稍微调整一下。KinectRegion是一个内容控件，表示里面只能有一个子控件，但是，这个子控件可以是一个包含其他容器如Grid或者StackPanel的控件。现在我们需要将之前的KinectTileButton包含到一个Grid控件中，然后将KinectTileButton移到左边，然后在右边添加一个KinectCircleButton控件。

<k:KinectCircleButton Label="Circle" HorizontalAlignment="Right" Height="200" VerticalAlignment="Top" Click="ButtonOnClick" >Hi</k:KinectCircleButton>

重复以上动作，可以看到相似的动画效果:

需要指出的是，这两个控件也可以用鼠标进行操作。

2.5 添加KinectScrollViewer控件

在Kinect 1.7 SDK之前，要实现使用Kinect浏览列表，并选择是比较困难的，但是在最新的1.7 SDK中推出的KinectScrollViewer控件极大地简化了这一操作。现在，我们在窗体底部放置一个KinectScrollViewer。将下面的代码添加到KinectRegion内部的Grid中：

<k:KinectScrollViewer VerticalScrollBarVisibility="Disabled" HorizontalScrollBarVisibility="Auto" VerticalAlignment="Bottom">
    <StackPanel Orientation="Horizontal" Name="scrollContent" />
</k:KinectScrollViewer>

这个控件就像WPF中的标准ScrollViewer一样。里面有一个StackPanell用来放置滚动的内容，这两个控件组合可以使得内容水平滚动，现在在StackPanel中放置一些KinectCircleButtons.

/// <summary>
/// 窗体运行时加载方法
/// </summary>
/// <param name="sender"></param>
/// <param name="e"></param>
private void OnLoaded(object sender, RoutedEventArgs e)
{
    this.sensorChooser = new KinectSensorChooser();
    this.sensorChooser.KinectChanged += SensorChooserOnKinectChanged;
    this.sensorChooserUi.KinectSensorChooser = this.sensorChooser;
    this.sensorChooser.Start();
     

    //填充scrollView中的圆
    for (int i = 1; i < 20; i++)
    {
        //Kinect Interaction圆形按钮
        var button = new KinectCircleButton
        {
            Content = i,
            Height = 200
        };

        int i1 = i;
        //给按钮注册事件，按下给出弹出框提示
        button.Click +=
            (o, args) => MessageBox.Show("You clicked button #" + i1);

        scrollContent.Children.Add(button);
    }
}

现在运行程序，如下图动画所示，刚开始的时候，可以看到下面的KinectCircleButton；当手移动手到滚动区域，颜色发生变化；然后合上手指，握拳，手势图标会发生变化，表示你当前正在对KinectScrollViewer做抓取操作，移动拳头，KinectScrollViewer控件会把手势图标贴到控件上，就像我们的手指在触摸屏上操作那样，然后里面的button会跟着手势的移动而移动，定位好了之后，放开拳头，就停止移动，这个时候，对着想要的按钮，将手往前压，就会像前面的控件那样触发Click事件。

由于鄙人安装msysgit工具，后来不知道GitHub图形工具也莫名奇妙的装上了，再加上帐号还在另外一台电脑上使用了，导致公钥添加后一直无效，费劲千辛万苦终于搞定了，提醒大家一下，最好不要用官方的图形工具，反正鄙人感觉不爽；谷歌的msysgit工具是不错的，但也推荐用它的git bash命令行工具。

废话不多说了，代码开诚布公到GitHub：https://github.com/Marsyangkang/KinectInteraction