とうとうゴルフ、始めました。まだ練習場でパカパカうつだけだけど。ホッケーとボルダリングとゴルフと筋トレ。多趣味になってきたね！
LINQ to SQL/LINQ to Entityを利用してると、CompiledQueryを使いたいけど、なんか面倒くさいよ、ってことありますよね。ないですか。いまさらか！的な内容ですけど。
CompiledQueryってなに～？という話もあるかもしれないけど、どういうメリットがあるのかというと以下のサイトに書いてるとおり。
LINQ To SQL Very Slow Performance Without Compile (CompileQuery) « Er. alokpandey's Blog
早いんです。なぜ早くなるのかというと、LINQ to SQL/LINQ to Entityの実行時っていろいろLINQ解析して、SQL組み立てるまでの事前準備(IQueryProvider.CreateQuery)と、SQLを実行してマッピングする実行処理(IQueryProvider.Execute)に分けて考えて、この事前処理の部分を使いまわすからですよね。QueryProvider大変だねー。
IQueryProvider インターフェイス (System.Linq)
チュートリアル : IQueryable LINQ プロバイダーの作成
.NET 3.5までだとLINQ to Entityって使えにくかった(シーケンスとの組み合わせとか)し、激烈に遅かったけど、.NET 4からはその辺ずいぶん改善されてて、さらに次のEF5に至っては、パフォーマンスもかなり向上するようで、楽しみでしょうがないっす。
Sneak Preview: Entity Framework 5.0 Performance Improvements - ADO.NET team blog - Site Home - MSDN Blogs
で、CompiledQueryを使うときの面倒くささって、あれですよ、事前にイロイロ用意してFuncデリゲートに登録しておかないといけないところですよね。
LINQ to SQL : Understanding Compiled Query - Wriju's BLOG - Site Home - MSDN Blogs
最初はAd Hocに書いて、パフォーマンス的に問題になるところを、ちょこちょこCompiledQueryにしていく、っていうのが王道なんでしょーか。面倒ですね。面倒です。だからQuery実行を勝手にキャッシュしてくれるようになるEF5のアプローチは大変興味深く、すぐにでも適用してしまいたいと思わずにはいられない。
DAL書き換えるのも面倒だしー。Repository書き換えるのも大変だしー。楽ちんにするなら、Ad Hocなクエリの部分だけ以下のように書くと、CompiledQueryにもしてくれてキャッシュもすると今までのコードもそのまま流用しやすくていいなー。
このアプローチを紹介してくれてるのが以下のエントリ。
Linq to Sql CompiledQuery container - Mitsu's blog - Site Home - MSDN Blogs
素敵ですね！
面倒なこと考えずに使えますね！でも、ちょっと待って。ちょっとだけ残念なのがSequence。CompiledQuery対象のLINQクエリの中で、パラメータで渡したIEnumerable的(Sequence parameter)な変数参照を行ってる場合、CompiledQueryは正しく機能しない。既知です既知！
linq to sql - Compiled queries and "Parameters cannot be sequences" - Stack Overflow
パッと見わかりにくいですね。どういう意味か。なので、先のエントリで提示されてるMyQueriesを使ったサンプルを使って確認。
class TestCQ
{
public void Test1()
{
var context = new AdventureWorksDataContext();
var cq = MyQueries.Get("Test1",
(AdventureWorksDataContext db) =>
from m in db.Product where new[] { "Red" }.Contains(m.Color) select m);
try
{
Console.WriteLine("Test1:" + cq(context).Count());
}
catch (Exception ex)
{
Console.WriteLine(ex);
}
}
public void Test2()
{
var context = new AdventureWorksDataContext();
var localArray = new[] { "Red" };
var cq = MyQueries.Get("Test2",
(AdventureWorksDataContext db) =>
from m in db.Product where localArray.Contains(m.Color) select m);
try
{
Console.WriteLine("Test2:" + cq(context).Count());
}
catch (Exception ex)
{
Console.WriteLine(ex);
}
}
public void Test3(string[] array)
{
var context = new AdventureWorksDataContext();
var cq = MyQueries.Get("Test3",
(AdventureWorksDataContext db) =>
from m in db.Product where array.Contains(m.Color) select m);
try
{
Console.WriteLine("Test3:" + cq(context).Count());
}
catch (Exception ex)
{
Console.WriteLine(ex);
}
}
public void Test4(string[] array)
{
var context = new AdventureWorksDataContext();
var cq = MyQueries.Get("Test4",
(AdventureWorksDataContext db, string[] option) =>
from m in db.Product where option.Contains(m.Color) select m);
try
{
Console.WriteLine("Test4:" + cq(context,array).Count());
}
catch (Exception ex)
{
Console.WriteLine(ex);
}
}
}
var cq = new TestCQ();
cq.Test1();
cq.Test2();
cq.Test3(new[] { "Black", "White" });
cq.Test3(new[] { "Blue" });
cq.Test4(new[] { "Black", "White" });
cq.Test4(new[] { "Blue" });
Test1はクエリの中で配列を作成。Test2はメソッドの中で宣言した配列をキャプチャ。Test3はメソッド引数で渡した配列をキャプチャ。最後のTest4はメソッド引数で渡した配列をCompiledQueryのパラメータとして利用(キャプチャしない)。
Test3実行が同一値。Test4実行時に「パラメーターをシーケンスにすることはできません。」。
ParameterExpressionだとダメなんだって。
.NET4でビルドするとExpressionをDebugViewで簡単に見れるから見てみよう！
- Test1
.Lambda #Lambda1<System.Func`2[FastLinq.Data.LS.AdventureWorksDataContext,System.Linq.IQueryable`1[FastLinq.Data.LS.Product]]>(FastLinq.Data.LS.AdventureWorksDataContext $db)
{
.Call System.Linq.Queryable.Where(
$db.Product,
'(.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>))
}
.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>(FastLinq.Data.LS.Product $m) {
.Call System.Linq.Enumerable.Contains(
.NewArray System.String[] {
"Red"
},
$m.Color)
}
- Test2
.Lambda #Lambda1<System.Func`2[FastLinq.Data.LS.AdventureWorksDataContext,System.Linq.IQueryable`1[FastLinq.Data.LS.Product]]>(FastLinq.Data.LS.AdventureWorksDataContext $db)
{
.Call System.Linq.Queryable.Where(
$db.Product,
'(.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>))
}
.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>(FastLinq.Data.LS.Product $m) {
.Call System.Linq.Enumerable.Contains(
.Constant<FastLinq.Program+TestCQ+<>c__DisplayClass42>(FastLinq.Program+TestCQ+<>c__DisplayClass42).localArray,
$m.Color)
}
- Test3
.Lambda #Lambda1<System.Func`2[FastLinq.Data.LS.AdventureWorksDataContext,System.Linq.IQueryable`1[FastLinq.Data.LS.Product]]>(FastLinq.Data.LS.AdventureWorksDataContext $db)
{
.Call System.Linq.Queryable.Where(
$db.Product,
'(.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>))
}
.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>(FastLinq.Data.LS.Product $m) {
.Call System.Linq.Enumerable.Contains(
.Constant<FastLinq.Program+TestCQ+<>c__DisplayClass44>(FastLinq.Program+TestCQ+<>c__DisplayClass44).array,
$m.Color)
}
- Test4
.Lambda #Lambda1<System.Func`3[FastLinq.Data.LS.AdventureWorksDataContext,System.String[],System.Linq.IQueryable`1[FastLinq.Data.LS.Product]]>(
FastLinq.Data.LS.AdventureWorksDataContext $db,
System.String[] $option) {
.Call System.Linq.Queryable.Where(
$db.Product,
'(.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>))
}
.Lambda #Lambda2<System.Func`2[FastLinq.Data.LS.Product,System.Boolean]>(FastLinq.Data.LS.Product $m) {
.Call System.Linq.Enumerable.Contains(
$option,
$m.Color)
}
太字のとこが違うとこ。Test4はParameterExpression。
ちなみに、Test4の使い方をしないなら、以降の話はすっ飛ばしてもらっても大丈夫。MyQueriesを使うだけでパフォーマンスは劇的に向上します。LINQ to SQLに関して言えば.NET3.5で約3倍、.NET4で約2倍。LINQ to Entityだとあんまり効果なし。効果ってどこの効果かというと、CompiledQueryをキャッシュしたときの効果ね。
訳あって、Test4のパターンを利用する必要があるので、しょうがなくExpressionVisitorを使うことにしました。とはいっても、ParameterExpressionをConstantExpressionに置き換えることでTest4もうまく動くはず。実行時のパラメータの値でExpressionキャッシュしたい(じゃないと、SQLに変換したときのParameterの数が違うことになる)のと、CompiledQueryの作成とQueryの実行が離れた場所にあるっていう都合もあって、ちょっとわかりにくいコードになったんだけど、以下のような感じです。T4です。
<#@ template debug="false" hostspecific="false" language="C#" #>
<#@ output extension=".cs" #>
<#@ Assembly Name="System.Core.dll" #>
<#@ import namespace="System" #>
<#@ import namespace="System.IO" #>
<#@ import namespace="System.Text" #>
<#@ import namespace="System.Diagnostics" #>
<#@ import namespace="System.Linq" #>
<#@ import namespace="System.Collections" #>
<#@ import namespace="System.Collections.Generic" #>
using System;
using System.Collections;
using System.Collections.Generic;
using System.Diagnostics;
using System.Linq;
using System.Linq.Expressions;
using System.Threading;
namespace FastLinq
{
public static class To
{
<# for (var i=0;i<4;i++ ) {#>
<#var generics = i==0 ? "" : string.Join(",", Enumerable.Range(1,i).Select(n=>"T"+n)) + ",";#>
public static Expression<Func<<#=generics#>TR>> Expression<<#=generics#>TR>(Expression<Func<<#=generics#>TR>> expression)
{
return expression;
}
<# } #>
}
public abstract class QueryBase<TDB>
{
private static Dictionary<string, object> _cachedQuery = new Dictionary<string, object>();
private static ReaderWriterLockSlim _locked = new ReaderWriterLockSlim();
<# for (var i=0;i<4;i++ ) {#>
<#var generics = i==0 ? "" : string.Join(",", Enumerable.Range(1,i).Select(n=>"T"+n).ToArray()) + ",";#>
public abstract Func<TDB, <#=generics#>TR> Compiled<<#=generics#>TR>(Expression<Func<TDB, <#=generics#>TR>> query);
<# } #>
public static void Clear()
{
_cachedQuery.Clear();
}
private int GetOptionHash<T>(T option)
{
var values = option as IEnumerable;
if (values != null)
{
return string.Join("\r\n", values.OfType<object>().Select(v => v.ToString()).ToArray()).GetHashCode();
}
return option.GetHashCode();
}
private object GetCache(string key, Func<object> compiledQueryFunctor)
{
_locked.EnterUpgradeableReadLock();
try
{
object cachedQuery;
if (_cachedQuery.TryGetValue(key, out cachedQuery))
return cachedQuery;
var compiedQuery = compiledQueryFunctor();
try
{
_locked.EnterWriteLock();
if (!_cachedQuery.ContainsKey(key))
{
_cachedQuery[key] = compiedQuery;
}
}
finally
{
_locked.ExitWriteLock();
}
return compiedQuery;
}
finally
{
_locked.ExitUpgradeableReadLock();
}
}
<# for (var i=0;i<4;i++ ) {#>
<#var generics = i==0 ? "" : string.Join(",", Enumerable.Range(1,i).Select(n=>"T"+n)) + ",";#>
<#var options = i==0 ? "" : "," + string.Join(",", Enumerable.Range(1,i).Select(n=>"option"+n));#>
<#var formats = i==0 ? "" : ":" + string.Join(":", Enumerable.Range(1,i).Select(n=>"{" + n + "}"));#>
<#var hashs = i==0 ? "" : "," + string.Join(",", Enumerable.Range(1,i).Select(n=>"GetOptionHash(option" + n + ")"));#>
public Func<TDB, <#=generics#>TR> Fast<<#=generics#>TR>(Expression<Func<TDB, <#=generics#>TR>> query) where TR : class
{
Func<TDB, <#=generics#>TR> wrapper = (context<#=options#>) =>
{
<# if (i==0) { #>
var key = string.Format("{0}", query.ToString().GetHashCode());
<# } else { #>
var replaces = new Dictionary<string, Expression>{
<# for(var j=1; j<=i; j ++) {#>{query.Parameters[<#=j#>].Name, Expression.Constant(option<#=j#>)},
<# } #>
};
query = new ParameterToConstantVisitor().Replace(query, replaces) as Expression<Func<TDB, <#=generics#>TR>>;
var key = string.Format("{0}<#=formats#>", query.ToString().GetHashCode()<#=hashs#>);
<# } #>
var compiledQuery = GetCache(key, ()=>Compiled(query));
return (compiledQuery as Func<TDB, <#=generics#>TR>)(context<#=options#>);
};
return wrapper;
}
<#}#>
}
}
さらに以下のクラスを用意。
LINQ to SQL
<#@ template debug="false" hostspecific="false" language="C#" #>
<#@ output extension=".cs" #>
<#@ Assembly Name="System.Core.dll" #>
<#@ import namespace="System" #>
<#@ import namespace="System.IO" #>
<#@ import namespace="System.Text" #>
<#@ import namespace="System.Diagnostics" #>
<#@ import namespace="System.Linq" #>
<#@ import namespace="System.Collections" #>
<#@ import namespace="System.Collections.Generic" #>
using System;
using System.Linq.Expressions;
namespace FastLinq.LinqToSql
{
public class Query<TDB> : QueryBase<TDB>
where TDB : System.Data.Linq.DataContext
{
<# for (var i=0;i<4;i++ ) {#>
<#var generics = i==0 ? "" : string.Join(",", Enumerable.Range(1,i).Select(n=>"T"+n)) + ",";#>
public override Func<TDB, <#=generics#>TR> Compiled<<#=generics#>TR>(Expression<Func<TDB, <#=generics#>TR>> query)
{
return System.Data.Linq.CompiledQuery.Compile(query);
}
<#}#>
}
}
LINQ to Entity
<#@ template debug="false" hostspecific="false" language="C#" #>
<#@ output extension=".cs" #>
<#@ Assembly Name="System.Core.dll" #>
<#@ import namespace="System" #>
<#@ import namespace="System.IO" #>
<#@ import namespace="System.Text" #>
<#@ import namespace="System.Diagnostics" #>
<#@ import namespace="System.Linq" #>
<#@ import namespace="System.Collections" #>
<#@ import namespace="System.Collections.Generic" #>
using System;
using System.Linq.Expressions;
namespace FastLinq.LinqToEntity
{
public class Query<TDB> : QueryBase<TDB>
where TDB : System.Data.Objects.ObjectContext
{
<# for (var i=0;i<4;i++ ) {#>
<#var generics = i==0 ? "" : string.Join(",", Enumerable.Range(1,i).Select(n=>"T"+n)) + ",";#>
public override Func<TDB, <#=generics#>TR> Compiled<<#=generics#>TR>(Expression<Func<TDB, <#=generics#>TR>> query)
{
return System.Data.Objects.CompiledQuery.Compile(query);
}
<#}#>
}
}
以下のようなテストで計測。
var options = new {Colors = new List<string> {"Red"}, City = "Bothell", CompanyName = "Bike"};
var query = new LinqToSql.Query<AdventureWorksDataContext>();
var exp1a = To.Expression((AdventureWorksDataContext db, int option) =>
from m in db.Product where options.Colors.Contains(m.Color) select m);
var exp1b = To.Expression((AdventureWorksDataContext db, List<string> option) =>
from m in db.Product where option.Contains(m.Color) select m);
var exp2 = To.Expression((AdventureWorksDataContext db, string option) =>
from m in db.Address where m.City == option select m);
var exp3 = To.Expression((AdventureWorksDataContext db, string option) =>
from m in db.Customer where m.CompanyName.StartsWith(option) select m);
using (var connection = new System.Data.SqlClient.SqlConnection(
ConfigurationManager.ConnectionStrings["AdventureWorks"].ConnectionString))
using (var context = new AdventureWorksDataContext(connection))
{
context.ObjectTrackingEnabled = false;
context.DeferredLoadingEnabled = false;
Test("Ad hoc", () =>
{
(from m in context.Product
where options.Colors.Contains(m.Color)
select m).FirstOrDefault();
(from m in context.Product
where new List<string> { "Red" }.Contains(m.Color)
select m).FirstOrDefault();
(from m in context.Address
where m.City == options.City
select m).FirstOrDefault();
(from m in context.Customer
where m.CompanyName.StartsWith(options.CompanyName)
select m).FirstOrDefault();
});
Test("Expression", () =>
{
exp1a.Compile()(context, 0).FirstOrDefault();
exp1b.Compile()(context, new List<string> { "Red" }).FirstOrDefault();
exp2.Compile()(context, options.City).FirstOrDefault();
exp3.Compile()(context, options.CompanyName).FirstOrDefault();
});
Test("Fast 1", () =>
{
query.Fast(exp1a)(context, 1).FirstOrDefault();
query.Fast(exp1b)(context, new List<string> { "Red" }).FirstOrDefault();
query.Fast(exp2)(context, options.City).FirstOrDefault();
query.Fast(exp3)(context, options.CompanyName).FirstOrDefault();
});
Test("Fast 2", () =>
{
query.Fast(
(AdventureWorksDataContext db, int option) =>
from m in db.Product where options.Colors.Contains(m.Color) select m
)(context, 2).FirstOrDefault();
query.Fast(
(AdventureWorksDataContext db, List<string> option) =>
from m in db.Product where option.Contains(m.Color) select m
)(context, new List<string> { "Red" }).FirstOrDefault();
query.Fast(
(AdventureWorksDataContext db, string option) =>
from m in db.Address where m.City == option select m
)(context, "Bothell").FirstOrDefault();
query.Fast(
(AdventureWorksDataContext db, string option) =>
from m in db.Customer where m.CompanyName.StartsWith(option) select m
)(context, "Bike").FirstOrDefault();
});
結果。
ちょっとわかりにくいけど。full4って書いたのが、DataContextともに.NET4。4+3.5がテストコードが.NET4でDBが.NET3.5。full3.5がいずれも.NET3.5。青が100回で赤が1000回実行したときの時間。
なので、Ad Hocと比較するとCompiledQueryキャッシュ実装だと.NET4の場合で概ね2倍。.NET3.5で概ね2.5倍。さすがCompiledQueryですね！パラメータのバリエーションがそれほど多くなかったり、参照が圧倒的に多いアプリケーション(WebでCMS的なものだったり、WebMatrix使ったWebPagesの実装だったりだと使いやすいかも)の場合、顕著にレスポンスが早くなります。
LINQ To SQL Very Slow Performance Without Compile (CompileQuery) « Er. alokpandey's Blog
Compiled Queries in Entity Framework : Don't Be Iffy
.NET 3.5の場合はExpressionVisitorを以下からコピペしておきましょう。Expressionとかマジ勘弁。
方法 : 式ツリー ビジタを実装する
是非どーぞー。ソースは以下から。
takepara/FastLinq · GitHub
ちなみにこれに加え、さらにDataキャッシュも加えると、ローカルDBに対してだとさらに20%くらい早くなって、ネットワーク越しだと2～3倍。
目指せ、スケーラブルWebサイト！
