如何解决租房烦恼? 阿里工程师写了一套神奇的代码

<div class="iteye-blog-content-contain" style="font-size: 14px;">
<p class="blog-summary"><strong>摘要：</strong> 租房的烦恼，相信大家或多或少都有过。独自一人在大都市打拼，找个温暖的小窝实属不易，租个称心又价格公道的房子是件重要的事儿。 本文作者、阿里工程师鹿星，也是众多北漂中的一员。如何从各大租房网的房源里面，找到最称心如意的小窝？今天让鹿星带大家看看数据能不能做出最优选择。</p>
<p>租房的烦恼，相信大家或多或少都有过。独自一人在大都市打拼，找个温暖的小窝实属不易，租个称心又价格公道的房子是件重要的事儿。</p>
<p>本文作者、阿里工程师鹿星，也是众多北漂中的一员。如何从各大租房网的房源里面，找到最称心如意的小窝？今天让鹿星带大家看看数据能不能做出最优选择。文末有代码。</p>
<p><strong>选择困难症</strong></p>
<p>毕业到现在两年多了，一直住的自如合租房，但因为各种原因住处已经换过4次，每次换租都是一件头疼的事。从茫茫房海中找一间中意的房间，实在是一件费时费力的活，对于我这种买东西直奔目的地的人来说，在这么多房间里对比各种房间属性选出最优的根本就是一种折磨（这里不得不说一下自如网的选房功能，列表筛选无法准备知道房间地点，而地图找房功能的筛选项又太少，实在无法满足我的需求），所以我每次都是草草选一个，将就着住。</p>
<p>最近在经历了又一次换租后，我萌生了把自如所有在租的房间数据都爬下来，找出最符合我预期的房间的想法，制作好一套流程以后再要换租的时候就可以无脑操作了。</p>
<p><strong>爬取数据</strong></p>
<p>分析之前需要从自如网上爬数据，我用的是Python的Scrapy爬虫框架，但第一遍采集后发现房间数量要比自如网上能查到的数量少，找了下原因发现是自如的房间列表页中有些房间条目是js动态生成的，因为Scrapy没有js引擎，只能爬取静态页面，这部分数据自然就没采集下来。利用scrapy-splash来提供js渲染服务，最终完整采集到了所有在租的自如房间数据，共7907条。采集到的数据样例如下。每一行是一个json格式的字符串</p>
<pre>{"floorTotal": "6", "rooms": "2", "lng": "116.422213", "direction": "南", "floorLoc": "5", "halls": "1", "rentType": "整", "time_unit": "每月", "title": "青年沟2居室", "privateBathroom": "0", "confStatus": "1", "district": "东城", "lat": "39.968073", "area": "64.17", "privateBalcony": "0", "confType": "", "link": "http://www.ziroom.com/z/vr/60563968.html", "confGen": "", "price": "6590", "nearestSubWayDist": "367"}
{"floorTotal": "18", "rooms": "3", "lng": "116.400737", "direction": "西", "floorLoc": "6", "halls": "1", "rentType": "合", "time_unit": "每月", "title": "望陶园小区3居室-02卧", "privateBathroom": "0", "confStatus": "1", "district": "东城", "lat": "39.870957", "area": "10.7", "privateBalcony": "0", "confType": "布丁", "link": "http://www.ziroom.com/z/vr/60570725.html", "confGen": "4.0", "price": "2490", "nearestSubWayDist": "517"}</pre>
<p><strong>租金的整体印象</strong></p>
<p>我只关心合租房的数据，再做脏数据过滤，共得到4762条合租房数据。合租房房租的平均值和中位数非常接近，整体数据基本无偏，即低价位和高价位的房间数量差不多。<span class="imgbox"><img class="image-loaded" src="http://image.uc.cn/o/wemedia/s/2017/e57015d7184268aed8204c58248a582ax675x89x5.png;,3,jpegx;3,700x.jpg" alt=""></span></p>
<p>不同价格的房间数量分布如图1，基本符合正态分布。<span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/ac4520896786339e6b8a867c4d97242cx640x331x17.png;,3,jpegx;3,700x.jpg" alt=""></span>图 1 合租房不同价格区间的房间数量分布</p>
<p>神秘的最贵房间</p>
<p>从上图可以看到一间房超过了6000元，这勾起了我的好奇心，什么房间能这么贵。这间6290元月租金的房间链接是http://www.ziroom.com/z/vr/60558368.html ，如下图。除了紧邻西单商场其它属性都没什么突出的。去链家上看了一下这个西黄城根45号院，小区均价14.6万元/平米，好吧，似乎明白为啥这屋子这么贵了。<span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/17a14398fab1f0c004eb63199b00a721x640x273x62.png;,3,jpegx;3,700x.jpg" alt=""></span></p>
<p>为了膜拜一下这个西黄城根45号院，我又在自如上搜了这个小区的所有在租房间，如下。突然发现好像就这间很贵，而其它房间价格虽然也不算低，但也不像这间这么离谱，有些房间的属性甚至看起来还比这间更好。这个房间总感觉是被自如标错价了，难不成它有什么隐藏属性（住进去每天精神值MAX）。</p>
<p><span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/42fd34d805c3a01813d35366ca7ebfa9x640x521x93.png;,3,jpegx;3,700x.jpg" alt=""></span></p>
<p><strong>租金地图</strong></p>
<p>房间价格在地图上的分布如图2。红色表示大于3000元/月的房间，绿色表示2000-3000元/月的房间，紫色表示小于2000元/月的房间。颜色越深表示同一个位置重叠有越多房屋，可见总体上北京北边比南边贵，东边比西边贵。而要想租到月租2000以下的房间，就得考虑去往五环之外了。<span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/4b4e88dc8ee13ed806b13d668619fdaex614x599x239.png;,3,jpegx;3,700x.jpg" alt=""></span>图 2 合租房价格在地图上的分布</p>
<p><strong>谁最重要？</strong></p>
<p>接下来看一下自如对房间定价时考虑的因素主次。使用随机森林算法对房间每月租金进行预测，选取如下14个特征：房间面积、自如配置版本(1.0,2.0等)、配置类型(布丁、拿铁等)、朝向、房间所在楼层、房间所在楼的总楼层、离最近地铁站的距离、是否有独立阳台、是否有独立卫生间、几室、几厅、所在北京区县、相对天安 门的方位角、与天 安门的距离。对其中的自如配置版本、配置类型、朝向、所在北京区县这四个类别特征使用One-Hot Encoding进行编码，最终扩展为41个特征。使用2/3的数据训练模型，1/3的数据进行测试，在测试集上得到拟合优度R2=0.86，不同特征对租金的影响程度Top10如下：</p>
<p><span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/9580d2e02fdfcb4f38fcf613fec075eax682x296x9.png;,3,jpegx;3,700x.jpg" alt=""></span>可见所在方位、房间面积大小、交通方便程度、有没有独卫是影响房间租金的主要因素。话说以前我还一直觉得房间加上朝南的属性会更贵，现在看来好像是我的错觉？</p>
<p><strong>终极目标</strong></p>
<p>最后，回到本次分析的终极目标，找出最符合我预期的房间。我需要做的就是综合我自己的关注属性值对房间进行排序，我最关心的房间属性是[房间面积，房间租金，到公司的距离]，这里我使用的是灰度关联分析法对房间进行打分，详细计算过程网上都有，这里我就不再罗列了。</p>
<p>首先我过滤掉属性值超出我心理预期范围的房间，将价格大于等于2200元/月，面积小于等于8m2的房间过滤掉。过滤后的数据集中选5条数据如下：</p>
<p><span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/9b96459e16f20238228c32109b4714f4x679x191x5.png;,3,jpegx;3,700x.jpg" alt=""></span></p>
<p>对这三个属性值无量纲化，这里我使用的是离差标准化，如下。标准化后x_i^,的取值范围为[0,1]。<span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/0deb97ee882f55c7bda45a5637d2507dx667x245x26.png;,3,jpegx;3,700x.jpg" alt=""></span>后数据如下：</p>
<p><span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/e7558d517f173da9f601d8ca85af93ebx677x170x5.png;,3,jpegx;3,700x.jpg" alt=""></span></p>
<p>然后设定最优序列，最理想的状态当然是房间面积最大，租金最小，到公司距离最近了。因此最优序列为[1,0,0]，计算每个属性与最优序列相应属性之间的关联系数如下：<span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/cb089c9c88ed5f1622839476fc921aafx676x192x5.png;,3,jpegx;3,700x.jpg" alt=""></span>由于我对不同属性的关注程度不同，因此这里需要设定每个属性的权重，权重值使用目标优化矩阵确定。<span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/853bf76a51fc82f6d129064af63dbaa0x685x116x5.png;,3,jpegx;3,700x.jpg" alt=""></span>因此房间面积权重为1/6，房间租金权重为1/3，到公司的距离权重为1/2，则每个房间的关联系数=房间面积关联系数/6+房间租金关联系数/3+到公司的距离关联系数/2，计算结果如下：</p>
<p><span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/10ca428f2f42df7b4532059c6bb02623x675x168x4.png;,3,jpegx;3,700x.jpg" alt=""></span>计算出所有房间的关联系数，从大到小排列后取Top10如下：<span class="imgbox"><img src="http://image.uc.cn/o/wemedia/s/2017/2333c98392616eb61df38c099a27220fx640x249x56.png;,3,jpegx;3,700x.jpg" alt=""></span></p>
<p>这下可以挑选房间的范围就大大缩小了，以后要是再租房感觉烦恼少好多。当然由于自如网上房间信息变动较快，随时都会有人下定，这套流程还得随租随用，不然筛选出房间后过个两三天再看，说不定房间早就被别人抢了。</p>
<p><strong>来源：阿里技术</strong></p>
<p> </p>
<p><strong>原文链接：https://yq.aliyun.com/articles/159509</strong></p>
</div>